KI-Agenten, Datenschutz und Ethik verringern das Vertrauen

Es ist leicht, über KI-Agenten zu sprechen, doch ihre Einführung in Unternehmen gestaltet sich komplizierter als erwartet. Anfängliche Begeisterung ist Vorsicht gewichen, insbesondere in Bezug auf zwei Themen – Datenschutz und Ethik –, die das Vertrauen stark schrumpfen ließen – von 43 % der Unternehmen auf 27 %. Und das, obwohl KI-Agenten als „Kollegen“ auftreten, die enormes Potenzial in Unternehmen freisetzen können. Ein Bericht des Capgemini Research Institute mit dem Titel „Aufstieg der agentenbasierten KI: Wie Vertrauen der Schlüssel zur Zusammenarbeit zwischen Mensch und KI ist“ schätzt, dass agentenbasierte KI bis 2028 weltweit einen wirtschaftlichen Wert von bis zu 450 Milliarden US-Dollar generieren kann. Dennoch sinkt einerseits die Zahl der Unternehmen, die Vertrauen ausdrücken, während andererseits zwei von fünf Führungskräften weltweit glauben, dass die Risiken zum jetzigen Zeitpunkt die Vorteile überwiegen. Dies geht aus dem Bericht hervor, der unter 1.500 Führungskräften von Unternehmen mit einem Jahresumsatz von über einer Milliarde US-Dollar in 14 Ländern, darunter Italien, und aus 13 verschiedenen Branchen durchgeführt wurde.

Tatsächlich zeigt die rasante Entwicklung neuer KI-Tools, dass sich Unternehmen nachhaltig und für alle anpassen müssen. Während ein erheblicher Prozentsatz der Unternehmen agentenbasierte KI für Supportzwecke nutzt, sieht die Situation bei der autonomen Nutzung anders aus. Nur 40 % der Unternehmen vertrauen KI-Agenten bei der autonomen Verwaltung von Aufgaben und Prozessen, während die Mehrheit der Unternehmen der Technologie nicht uneingeschränkt vertraut.

Italienische Organisationen haben, im Einklang mit globalen Trends, weniger Vertrauen in KI-Agenten als im Jahr 2024. Rund 60 % der italienischen Organisationen sind besorgt über Datenschutzprobleme, Sicherheitsrisiken und das Risiko unerwünschter Voreingenommenheit im Zusammenhang mit dem Einsatz von Agentic AI. In den nächsten zwölf Monaten erwarten italienische Organisationen durch die Zusammenarbeit mit KI eine Verbesserung der Fähigkeiten ihrer Teammitglieder. In den nächsten drei Jahren sehen dieselben Organisationen KI-Agenten als autonome Mitglieder von von Menschen überwachten Teams.

Die italienische Datenanalyse zeigt einen anderen Ansatz kurz- und mittelfristig sowie eine Weiterentwicklung der beteiligten Funktionen. So ragen Vertrieb, IT, Marketing & Kommunikation sowie Finanzen in den nächsten zwölf Monaten unter den Geschäftsfunktionen heraus, in denen Unternehmen erwarten, dass KI-Agenten mindestens einen Prozess oder Teilprozess pro Tag verwalten. Erweitert man den Zeitrahmen auf drei Jahre, wird die Liste länger, und auch der operative Bereich gehört zu den Funktionen, von denen italienische Unternehmen glauben, dass sie am stärksten von Agentic AI betroffen sein werden.

Laut Monia Ferrari, CEO von Capgemini in Italien, „ist das wirtschaftliche Potenzial von KI-Agenten enorm, doch um es in die Tat umzusetzen, bedarf es mehr als nur Technologie: Es erfordert eine strategische und strukturierte Transformation, die Menschen, Prozesse und Systeme einbezieht. Um erfolgreich zu sein, müssen sich Unternehmen auf Ergebnisse konzentrieren und ihre Prozesse mit einer ‚KI-First‘-Vision überdenken. Im Mittelpunkt dieser Transformation steht die Notwendigkeit, Vertrauen aufzubauen, indem KI von Anfang an ethisch und sicher entwickelt wird. Auch die Organisationsstrukturen müssen neu gestaltet werden, um eine effektive Synergie zwischen Mensch und KI zu fördern und die Voraussetzungen zu schaffen, menschliches Urteilsvermögen zu nutzen und bessere Geschäftsergebnisse zu erzielen.“