Kennen Sie das Gefühl, wenn Ihr Navi Sie mitten in ein Maisfeld statt zu Ihrem tatsächlichen Zielort führt? LLMs können auf ähnliche Weise die Richtung verlieren, wenn sie ‚halluzinieren‘ – eine Ausdrucksweise, die gerne verwendet wird, wenn LLMs Antworten auf der Basis von statistischen Verknüpfungen liefern, statt auf konkreten Daten. Dadurch können irrelevante, falsche oder schwer zu identifizierende Antworten entstehen, die menschliche Überprüfung erfordern, da sie in ihrer Grundform keine unternehmensspezifischen Prozesse, Regeln oder Vorschriften kennen.

LLMs sind nur so gut wie die Daten, auf denen sie trainiert wurden. Wenn die zugrunde liegenden Daten veraltet, voreingenommen oder einfach fehlerhaft sind, werden die Ausgaben entsprechend ungenau oder sogar unangemessen sein. Vorurteile, die in den Trainingsdaten existieren, können daher in den LLMs repliziert werden. Die Blackbox-Natur der Modelle bedeutet auch, dass ihre Erklärbarkeit fehlt und Gründe für Schlussfolgerungen nicht nachvollziehbar sind. Eine weitere Herausforderung: Sie sind notorisch schwer zu kontrollieren. Mit der Fähigkeit, Deepfakes, Spam und Phishing-Inhalte zu generieren, besteht ein echtes Risiko des Missbrauchs. Außerdem ist die Entwicklung von LLMs kostenintensiv und benötigt massive Infrastrukturen, was dazu führt, dass Hyperscaler den Markt dominieren.