Workshop: Large Language Models

“Bag-of-Words” Ansätze oder Häufigkeitsanalysen sind (veraltete) Textanalysemethoden die der Komplexität der natürlichen Sprache kaum gerecht werden. Aus diesem Grund sind ‚Deep Learning‘ oder neuronale Netzwerke innovative, wichtige Werkzeuge zur Erforschung großer Textmengen, die helfen können diese Limitationen zu überwinden. Moritz Edlinger, ein Doktorand des Digital Psychology Lab welcher sich in seinem Projekt mit der Analyse von nutzergenerierten Reviews beschäftigt, besuchte deshalb den Workshop „From Embeddings to LLMs: Advanced Text Analysis with Python“ im Rahmen der Workshopreihe des GESIS Fall Seminars. In dem fünftägigen Workshop in Mannheim wurden Large Language Models wie BERT, BERT oder OLLAMA ausführlich behandelt und über deren Einsatzmöglichkeiten in der alltäglichen Forschungspraxis diskutiert. Vor- und Nachteile der jeweiligen Modelle, ebenso wie Techniken zur Feinabstimmung der Modelle waren auch ein zentrales Thema des Workshops. Moritz beschreibt seine Zeit in Mannheim als „lehrreich“ und war froh den Workshop besucht zu haben. Insbesondere für DoktorandInnen im ersten Jahr sind derartige Workshops eine tolle Gelegenheit auf den neuesten Stand der Technik zu kommen und gleichzeitig andere ForscherInnen aus demselben Fachbereich kennenzulernen.