Für Sie nachgefragt: Expertenmeinungen zur Künstlichen Intelligenz

Die größten Herausforderungen liegen derzeit weniger in der Technik als in Governance, Compliance und der Unternehmenskultur. Viele Unternehmen unterschätzen die regulatorischen Anforderungen des AI Act und der DSGVO. Häufig fehlt Klarheit darüber, welche Systeme überhaupt als Künstliche Intelligenz (KI) gelten und welche regulatorischen Konsequenzen sich daraus ergeben.

Zudem wird das volle Potenzial der verfügbaren KI-Systeme in vielen Unternehmen noch nicht ausgeschöpft. Schulungen sind daher empfehlenswert, um Mitarbeitende mit den rechtlichen Anforderungen sowie den umfassenden Anwendungsbereichen von KI vertraut zu machen.

Welche Stolpersteine gibt es bei der Verwendung und Anwendung von KI?

Generell ist der Einsatz von Künstlicher Intelligenz (KI) besonders heikel in Bereichen, die nach dem AI Act als Hochrisiko-KI-Systeme eingestuft werden. Dazu zählen insbesondere KI-Systeme, die Entscheidungen im Personalmanagement treffen (z. B. Einstellung, Beförderung oder Kündigung von Mitarbeitenden sowie Aufgabenverteilung) oder Systeme, die aus biometrischen Daten wie Video- oder Tonaufnahmen Rückschlüsse auf Emotionen oder Absichten von Personen ableiten.

Unternehmen, die solche Hochrisiko-KI-Systeme einsetzen (Betreiber), sind verpflichtet, ein Risikomanagementsystem einzurichten, Risiken aktiv zu überwachen und eine menschliche Aufsicht sicherzustellen. Hersteller (Anbieter) müssen umfassende Risiko- und Qualitätsmanagementsysteme implementieren und strenge Anforderungen an Datenqualität, Genauigkeit, Robustheit und Cybersicherheit erfüllen. Nur bei Einhaltung aller Vorgaben darf das System mit einem CE-Zeichen in Verkehr gebracht werden.

Ein weiterer praktischer Stolperstein besteht darin, die KI-Transformation nicht nur als reinen KI-Einsatz zu verstehen, sondern Geschäftsprozesse und gegebenenfalls sogar das Geschäftsmodell grundlegend neu zu denken.

Hier lässt sich vor allem internes Wissensmanagement, Revisionsprüfungsvorbereitungen, Protokollierungen, Datenanalysen und vieles mehr effizient einsetzen. Im HR-Bereich verwenden nur wenige und tendenziell große Organisationen umfangreiche Systeme mit integrierten KI-Services. Auch wenn sie die Systeme im Einsatz haben, werden diese oftmals durch den Datenschutz daran gehindert, diese KI-Anwendungen auch tatsächlich zu nutzen. Dementsprechend werden wenige Anwendungen nach wie vor in nur wenigen Bereichen wirklich strategisch eingesetzt.

Welche Stolpersteine gibt es bei der Verwendung und Anwendung von KI?

Die zentralen Stolpersteine liegen weniger in der Technologie selbst als in fehlender strategischer Klarheit. Viele Organisationen definieren keine übergeordnete KI-Strategie, sondern starten mit geringen Investitionen, einzelnen Lizenzen und punktuellen Initiativen – statt konsequent in Technologie, Datenarchitektur und begleitenden Change zu investieren. Mangelnde Datenqualität, fehlende AI-Literacy und unklare Verantwortlichkeiten führen so zu ineffizientem oder rechtlich riskantem Einsatz. Gerade im HR stellen Datenschutz, Diskriminierungsschutz und die Vorgaben des EU AI Act hohe Anforderungen. Hinzu kommt, dass KI-Lizenzen teilweise selektiv vergeben werden und dadurch ein Ungleichgewicht im Zugang zu Produktivitätsgewinnen entsteht – was interne Spannungen verstärken kann. Ohne transparente Prozesse, dokumentierte Entscheidungslogiken und wirksame menschliche Aufsicht entsteht kein Vertrauen. KI entfaltet ihren Mehrwert nur, wenn sie strategisch verankert, ethisch reflektiert und professionell implementiert wird.

Was sich zeigt: KI rückt immer mehr in den Hintergrund. Was meine ich damit? Sie wird nicht als eigenständige Anwendung „ins Schaufenster gestellt“, sondern gezielt und unauffällig in bestehende Arbeitsprozesse integriert. Der Fokus liegt damit nicht auf der Technologie selbst, sondern auf ihrem Nutzen.

Unternehmen setzen Künstliche Intelligenz vor allem mit dem Ziel ein, das Tagesgeschäft für die Mitarbeitenden spürbar zu entlasten, ohne dabei Verantwortung abzugeben oder zu verschieben. KI fungiert dabei als Assistenzsystem, um Prozesse zu beschleunigen, die Reaktionszeit zum Kunden zu verkürzen oder Suchzeiten zu verringern. Damit schafft sie Freiräume für jene Aufgaben, die menschliche Erfahrung, Kontextverständnis und Entscheidungskompetenz erfordern. Genau darin liegt ihre Stärke. Ein typisches Beispiel dafür findet sich in der Verwaltung. Bei der Bearbeitung von Ticketanfragen können KI-gestützte Systeme – eingebettet in bestehende CRM-Systeme – eingehende (Kunden-)anliegen analysieren, priorisieren und kategorisieren. Zusätzlich werden Handlungsempfehlungen sowie Antwortvorschläge in Sekundenschnelle vorbereitet, die von den Mitarbeitenden fachlich geprüft und erst danach freigegeben werden. Die Letztverantwortung bleibt dabei jederzeit beim Menschen, insbesondere bei rechtlich relevanten Aussagen oder verbindlichen Entscheidungen.

Diese Beobachtungen spiegeln sich auch in aktuellen statistischen Erhebungen wider. Laut Statistik Austria setzen im Jahr 2025 bereits rund 29,9 % der österreichischen Unternehmen mit mindestens zehn Beschäftigten KI-Technologien ein. Besonders bemerkenswert ist dabei die Dynamik dieser Entwicklung: 2024 lag der Anteil noch bei rund 20 %, 2023 sogar erst bei etwa 10 %.[1]

Gerade dieser zurückhaltende, integrierte Einsatz fördert Akzeptanz sowie Vertrauen und zeigt, dass KI zunehmend als selbstverständlicher Bestandteil moderner Arbeitsprozesse verstanden wird.

[1] Quelle: https://www.statistik.at/statistiken/forschung-innovation-digitalisierung/digitale-wirtschaft-und-gesellschaft/ikt-einsatz-in-unternehmen

Welche Stolpersteine gibt es bei der Verwendung und Anwendung von KI?

Künstliche Intelligenz ist kein Zauberstab – sie ist ein Verstärker. Sie löst keine strukturellen Probleme und ersetzt keine fehlenden Grundlagen. Vielmehr wirkt sie wie ein Verstärker. Ist eine solide Grundbasis vorhanden, kann Künstliche Intelligenz die Effizienz samt Qualität und Geschwindigkeit deutlich erhöhen. Fehlen diese Grundlagen, verstärkt KI hingegen bestehendes Chaos.

KI kann keine ungeordneten Prozesse, unklare Zuständigkeiten oder mangelhafte Datenqualität „automatisch“ korrigieren. In der Praxis verstärkt sie genau diese Schwächen – mit entsprechenden Risiken für Fehlentscheidungen, falsche Priorisierungen oder ineffiziente Abläufe.

Ein weiterer häufiger Stolperstein zeigt sich darin, dass KI-Tools eingesetzt werden, um „KI im Unternehmen zu haben“, ohne dass sie tatsächlich ein konkretes Problem lösen. Technologie wird dann zur Antwort, bevor die richtige Frage gestellt ist. Besonders kritisch ist dies, wenn Unternehmen ihre größten Zeitfresser und Reibungspunkte nicht kennen. Denn der größte Hebel liegt meist nicht in groß angelegten Transformationen, sondern in kleinen, klar identifizierten Entlastungspotenzialen. Erfolgreiche KI-Einführung bedeutet daher, gezielt und schrittweise vorzugehen – und nicht mit dem Anspruch zu starten, das gesamte Unternehmen auf einmal zu „revolutionieren“.

Ein besonders sensibler Aspekt ist der sogenannte Extrapolationsraum. KI-Systeme können nur innerhalb jener Muster und Kontexte zuverlässig arbeiten, die ihnen bekannt sind. Werden sie außerhalb dieses Rahmens eingesetzt – etwa bei neuen, komplexen oder rechtlich sensiblen Fragestellungen außerhalb der trainierten Datenbasis – entstehen Ergebnisse bzw. Vorhersagen, die zwar plausibel wirken, fachlich oder rechtlich jedoch problematisch sein können. Ein bekanntes Beispiel dafür ist ein internes Recruiting-Projekt aus dem Jahr 2015, bei dem ein KI-gestütztes System zur Vorauswahl von Bewerbungen in einem großen internationalen Online-Handelsunternehmen eingesetzt wurde. Da das Modell überwiegend mit historischen Einstellungsdaten trainiert war, die stark männlich geprägt waren, extrapolierte die KI diese Muster in die Zukunft und bewertete Bewerbungen von Frauen systematisch schlechter. Das System funktionierte formal korrekt – bewegte sich jedoch außerhalb eines fairen und zeitgemäßen Anwendungsrahmens. Das Projekt wurde schließlich eingestellt. [1] Dieses Beispiel zeigt eindrücklich, dass KI nicht „falsch rechnet“, sondern bekannte Muster konsequent fortschreibt. Genau darin liegt die Gefahr des Extrapolationsraums.

Ebenfalls kritisch zu sehen ist das sogenannte Prompt Injection. KI-Systeme funktionieren so, dass sie auf Anweisungen – sogenannte Prompts – reagieren und auf dieser Basis Antworten oder Ergebnisse liefern. Solange diese Anweisungen aus kontrollierten und vertrauenswürdigen Quellen stammen, ist dieses Verhalten unproblematisch. Problematisch wird es jedoch, wenn eine KI nicht ausreichend geschützt ist und zusätzliche Anweisungen aus externen Quellen übernimmt. In solchen Fällen können Inhalte von außen so gestaltet sein, dass die KI sie als legitime Anweisung interpretiert. Die KI folgt dieser Anweisung dann genauso wie den ursprünglich vorgesehenen Vorgaben – auch dann, wenn diese Anweisung eigentlich nicht befolgt werden sollte.

Ein praxisnahes Beispiel zeigt sich bei der automatisierten Verarbeitung von PDF-Rechnungen. In solchen Dokumenten können zusätzliche Texte in weißer Schrift oder in technisch versteckten Ebenen eingebettet sein. Während diese Inhalte für Mitarbeitende unsichtbar bleiben, werden sie von der KI gelesen und als Teil der Anweisung interpretiert – etwa mit dem Effekt, dass vertrauliche Informationen wie etwas beispielsweise Passwörter oder Kontoverbindungen etc. herausgegeben werden.

Abschließend zeigt sich, dass die häufig bemühten Science-Fiction-Szenarien rund um Künstliche Intelligenz – etwa die Vorstellung, KI könne eines Tages die Kontrolle übernehmen – in der realen Anwendung keine praktische Relevanz haben. Die tatsächlichen Herausforderungen liegen nicht in unkontrollierbaren oder abstrakten Bedrohungen, sondern in klar benennbaren, nachvollziehbaren Grenzen der Technologie selbst. Wie ausgeführt, sind diese Stolpersteine gut eingrenzbar. Sie entstehen dort, wo grundlegende Strukturen fehlen, Einsatzbereiche nicht eindeutig definiert sind oder menschliche Kontrollmechanismen zu kurz kommen.

Künstliche Intelligenz ist damit kein unkalkulierbares Risiko, sondern ein Werkzeug, dessen Wirkung maßgeblich davon abhängt, wie verantwortungsvoll es eingesetzt wird, damit sie ihr Potenzial sicher und wirksam entfalten kann.

[1] Quelle: Insight – Amazon scraps secret AI recruiting tool that showed bias against women | Reuters