Unternehmen, die kurzfristig generative KI in ihre Prozesse und Systeme integrieren wollen, sind gut beraten, die damit verbundenen Risiken umfassend zu analysieren.

In unserem 2022 veröffentlichten Radar der Tech-Trends 2023 haben wir generative KI als das Top-Thema identifiziert, das Unternehmen verfolgen sollten.

Nur ein Jahr später hat sich die Technologie bereits rasant verbreitet: Anwendungen wie ChatGPT von OpenAI beherrschen die Schlagzeilen und sind auf dem besten Weg, sich im alltäglichen Gebrauch vieler Menschen zu etablieren.

Um das Potenzial generativer KI besser einzuschätzen, haben wir Unternehmen aus zahlreichen Branchen befragt. Die Quintessenz: Während die Entwicklung der Technologie keinerlei Prüfungen unterliegt, entsteht eine Vielzahl von Chancen – aber es gibt auch Gefahren, denen Unternehmen und deren Kund:innen angesichts der enormen Verbreitung generativer KI gegenüberstehen.

Mit Blick auf die sprunghaft gestiegene Bekanntheit und Etablierung generativer KI drängen sich nun drei wichtige Fragen auf:

  1. Welche wesentlichen Herausforderungen sind im Zusammenhang mit generativer KI zu lösen?
  2. Wie lassen sich ChatGPT und generative KI im weiteren Sinne praktisch nutzen?
  3. Wird sich ChatGPT langfristig durchsetzen?

Welche wesentlichen Herausforderungen sind im Zusammenhang mit generativer KI zu lösen?

Die API von OpenAI eröffnet Unternehmen viele attraktive Einsatzmöglichkeiten. Bevor sie die Anwendung aber in ihre täglich genutzten Systeme und Geschäftsprozesse integrieren, sollten sie sich auch deren Schwachpunkte bewusst machen.

Governance

Noch ist nicht endgültig entschieden, welche Rolle Regierungen und andere hohe Instanzen spielen sollen, wenn es darum geht, Bürger:innen und Unternehmen vor Haftung und Missbrauch zu schützen (möglich wäre etwa, den Geltungsbereich des Digital Services Acts der EU auszuweiten). ChatGPT ist ein professioneller Werkzeugkasten – Unternehmen, die ihn zu ihrem Vorteil nutzen wollen, sollten gezielt in Weiterbildung und Governance investieren.

Geistiges Eigentum

Der Themenkomplex Urheberrecht und geistiges Eigentum wirft in Bezug auf künstliche Intelligenz viele Fragen auf: Bei wem liegen etwa Autorenschaft und Anspruchsrechte für Informationen, die eine generative KI erstellt hat? Selbst Werke, bei deren Erstellung die KI nur assistiert hat, sind unter Umständen nicht rechtlich geschützt. Zudem stellt sich die Frage, ob schon beim Training der KI urheberrechtlich geschützte Informationen verwendet wurden.

Qualität der Informationsquellen

Wie eine Suchmaschine sammelt ChatGPT Informationen aus dem gesamten Internet und aus internen Unternehmensdaten, um seine Ergebnisse zusammenzustellen und Fragen zu beantworten. Es liegt in der Natur der Sache, dass die KI auch auf veraltete, ungenaue oder im schlimmsten Fall frei erfundene Informationen stößt – und diese auch verarbeitet. Wenn hier keine Überprüfung integriert ist, werden solche Informationen die Ergebnisqualität der KI mindern.

Unbewusste Voreingenommenheit

Wenn Menschen die Daten für das Training einer KI zusammenstellen, ist es möglich, dass sie unbewusst voreingenommen sind oder unbeabsichtigt einen kompletten Datensatz verfälscht wiedergeben. Dies kann dazu führen, dass KI-Systeme später mit denselben Vorurteilen arbeiten, wenn sie Inhalte erstellen oder synthetische Daten analysieren.

Trainiert man den Algorithmus aber mit spezifischen, hochwertigen Daten, lässt sich das geschäftliche Potenzial von ChatGPT maximieren. Wir unterstützen unsere Kunden dabei, die richtigen Einsatzmöglichkeiten zu finden.

Wie lassen sich ChatGPT und generative KI im weiteren Sinne praktisch nutzen?

Allen Bedenken zum Trotz gibt es unzählige Einsatzmöglichkeiten für ChatGPT. Dank seiner effizienten Texterstellung können Unternehmen Zeit und wertvolle Ressourcen sparen.

Ein Einzelhändler, der seine Produktpalette um Hunderte oder sogar Tausende Einzelprodukte erweitert, kann mithilfe generativer KI optimierte Produktnamen und Tags erstellen – allein auf Basis der Produktbeschreibung und relevanter Merkmale wie Größe und Farbe.

Wenn Mitarbeiter:innen umfangreiche Informationen präsentieren sollen, können sie das Material dazu von der KI zusammenfassen lassen. Wichtig ist dabei aber, dass sie die Ergebnisse im Nachgang mit Sorgfalt auf Korrektheit überprüfen.

Programmierer:innen, die unter Zeit- oder Ressourcendruck stehen, können ChatGPT dazu nutzen, Code zu schreiben und zu korrigieren. Das Tool ist auch in der Lage, die spezifische Funktion zu beschreiben, die ein jeder Teil des Codes innerhalb des Ganzen spielt.

Schon jetzt ist klar, dass ChatGPT unzählige Einsatzmöglichkeiten bietet. Dabei ist dieses Tool erst der Anfang, wenn es darum geht, das gesamte Potenzial der generativen KI auszuschöpfen. Wir sind überzeugt, dass sie für Unternehmen schon bald unverzichtbar sein wird, um die Effizienz zu steigern und Kosten zu senken. Wie so oft sind sie aber auch hier gut beraten, in all dem Hype nicht die Grundlagen zu vergessen: Damit die Schnittstelle zwischen KI und Unternehmen reibungslos funktionieren kann, müssen die Themen zu Governance hinreichend geklärt sein.

Mit ChatGPT ist das Thema KI endgültig in der Wahrnehmung der breiten Öffentlichkeit angekommen. Tatsächlich aber ist künstliche Intelligenz gar nichts Neues, sondern an vielen Stellen schon vollständig in Unternehmensprozesse integriert. Einige Beispiele:

  • Viele Unternehmen nutzen KI-gesteuerte Chatbots für den Kundenservice auf ihrer Website: Diese Bots beantworten Fragen und leiten Kund:innen zu den gesuchten Informationen weiter.
  • Algorithmen für Predictive Maintenance durchkämmen die Daten von vernetzten Maschinen, etwa von Fertigungsstraßen in Fabriken oder von Aufzugsanlagen in Gebäuden, um potenzielle Fehler und Ausfälle frühzeitig zu erkennen und abzuwenden.
  • Eine mit anonymisierten Bankdaten trainierte KI kann potenziell betrügerische oder auch andere verdächtige Aktivitäten wie Identitätsdiebstahl erkennen.
  • Virtuelle Assistenzen wie Alexa „leben“ bereits in unseren Häusern und Autos, schalten das Licht ein und helfen dabei, den Kühlschrank gefüllt zu halten.
  • Autonome Fahrzeuge, die ohne Fahrerassistenz funktionieren, kommen auf dem Weg durch die Erprobungsphasen dem Ziel einer breiteren Einführung in den Markt kontinuierlich näher.
  • Der „Artificial Intelligence Virtual Artist“ (AIVA) liest die Noten der größten Komponist:innen der Welt und sagt voraus, was als Nächstes kommen „sollte“, indem er sein eigenes Stück auf Grundlage des Gelesenen schreibt.
  • Mit der Software „DeepFaceLab“ können Nutzer:innen Deepfake-Videos erstellen: Diese scheinen Handlungen bestimmter Personen wiederzugeben, obwohl sie von Grund auf digital erstellt wurden.

Einige dieser Tools haben sich stetig ihren Platz in der geschäftlichen Nutzung erobert: Das gilt vor allem für jene mit einem klar umrissenen Einsatzgebiet und funktionierenden Kontrollmechanismen, die ihr Aktionsfeld in definierten Grenzen halten , wie zum Beispiel die mit anonymisierten Bankdaten trainierte KI zur Identifikation von potentiell betrügerischen Aktivitäten Andere sind anfällig für Missbrauch und wären in der Lage, im Unternehmenskontext massiven Schaden anzurichten – insbesondere DeepFaceLab birgt in dieser Hinsicht ein enormes Risiko.

ChatGPT sollte der Startschuss sein, den Unternehmen brauchen: Schon jetzt probieren Mitarbeiter:innen fleißig aus, wofür sich das Tool einsetzen lässt. Entscheidend ist jetzt, schnell zu agieren, um die Einsatzgebiete sowie die Kontrollmaßnahmen festzulegen und durchzusetzen.

Wird sich ChatGPT langfristig durchsetzen?

Als eine der ersten generativen KI-Apps auf dem Markt hat ChatGPT sicherlich einen Vorteil. Dass dieses Tool auch in den nächsten Jahren den Markt dominieren wird, ist damit aber keineswegs gesagt.

Die derzeitige rasante Markteinführung von Plattformen für generative KI ist vergleichbar mit den Anfängen der Suchmaschinen: Auch für ChatGPT gibt es eine Vielzahl von Anwendungsmöglichkeiten in einem breiten Spektrum von Bereichen und Themen. Damit das Tool sein volles Potenzial entfalten kann, muss es über die richtigen Informationen verfügen und diese verarbeiten – ChatGPT greift gegenwärtig auf sämtlichen Inhalt zu, der seit 2021 im Internet veröffentlicht wurden.

Bei den Suchmaschinen ist Google heute der Platzhirsch. Die Pionierarbeit haben allerdings andere geleistet: Schon Jahre bevor Google überhaupt auf den Plan trat, nutzten unterschiedlich arbeitende Plattformen wie W3Catalog, Yahoo! und AltaVista verschiedene Methoden, um Suchergebnisse abzurufen.

Noch ist es nicht zu spät, einen ausgefeilteren und genaueren KI-Dienst als ChatGPT zu entwickeln. So hat ChatGPT – anders als Suchmaschinen, die permanent online sind – keine integrierte Internetverbindung, ist also nicht „smart“. Das bedeutet, dass die Informationen in seiner Datenbank noch nicht regelmäßig aktualisiert werden. Folglich kann ChatGPT weder Fragen nach der Uhrzeit beantworten noch die neuesten Informationen bereitstellen. Vom jetzigen Stand aus kann der Schritt zu einer vollständig vernetzten Version aber nicht mehr allzu groß sein.

So hat ein Team von Together eine Open-Source-Version unter der Apache-2.0-Lizenz herausgebracht, die 20 Milliarden Parameter enthält und mit 43 Millionen Anweisungen trainiert wurde – wiederum ein Meilenstein in der Weiterentwicklung der Möglichkeiten von ChatGPT.

Globale Governance generativer KI: Die Unternehmen sind am Zug

Zu den drängendsten Herausforderungen im Zusammenhang mit KI zählen die Risiken für die menschliche Freiheit und Autonomie sowie für die Sicherheit von Verbraucher:innen. Weltweit arbeiten bereits einige Länder an Maßnahmen, um Arbeitnehmer:innen, Arbeitgeber:innen und Märkte zu schützen.

Die EU nutzt „horizontale“ Rechtsvorschriften, um die verschiedenen KI-Anwendungen in ihrer Breite zu regulieren. Das bedeutet, dass es bislang weder langfristige Zulassungen noch dauerhafte Verbote gibt.Der derzeitige Rahmen ist flexibel genug, um die Erwartungen anzupassen, wenn sich die Technologie weiterentwickelt und mehr Unternehmen beteiligt sind. China hingegen verfolgt einen eher „vertikalen“ Ansatz: Dort gibt es bereits Gesetze für bestimmte Anwendungsfälle von KI, um Arbeitnehmer:innen zu schützen und gegen illegale Preisabsprachen vorzugehen.

Während diese übergreifenden Vorhaben Gestalt annehmen, liegt es in der Verantwortung der Unternehmen selbst, die Risiken abzuwägen. Was aber ist erforderlich, um diese Abwägung bequem und effizient innerhalb eines operativen und strategischen Rahmens treffen zu können?

1. Kritische Unternehmensinfrastrukturen und -dienste müssen geschützt sein. Dabei helfen Stresstests und Übungen zur schnellen Reaktion auf potenzielle KI-gestützte Eindringlinge.
2. Die Deepfake-Technologie kann verheerende Auswirkungen haben. Um sich zu schützen, sollten Unternehmen in Tools und Prozesse investieren, die ihnen helfen, solche Bedrohungen besser und schneller zu erkennen und adäquat zu reagieren.
3. Mit einem Governance-Framework und entsprechenden Prozessen lässt sich der Einsatz von KI in Bezug auf Ethik, Compliance, Recht und Risiko steuern und kontrollieren. Dabei gilt es, jeden Anwendungsfall einzeln zu bewerten.
4. Auch das Training einer KI hat Umweltauswirkungen: Die Fütterung mit Daten erzeugt einen CO2-Fußabdruck, der mithilfe nachhaltiger Lösungen möglichst gering ausfallen sollte.
5. Der Bereich der Regulierung von KI ist sehr dynamisch. Es empfiehlt sich, aktuelle Trends sowie Entscheidungen von Vorständen, Regierungen und anderen Stellen auf der ganzen Welt genau zu beobachten.

Wir beraten uns weiterhin mit Unternehmen über die möglichen Stärken und Schwächen einer stabilen Integration generativer KI in die Arbeitswelt. Unternehmen sollten idealerweise über Werkzeuge und Know-how verfügen, um einerseits die Kontrolle über ChatGPT und ähnliche Plattformen zu behalten, gleichzeitig aber auch die technologische Revolution zu ihrem Vorteil zu nutzen wissen.

Wünschen Sie weitere Informationen?

Wenn Sie mehr über diese Publikation erfahren möchten, wenden Sie sich bitte an unsere Experten, die gerne von Ihnen hören.