Wenn Antworten ein Geschäftsmodell bilden
Die Integration von Händlern, Buchungsplattformen und anderen kommerziellen Anbietern eröffnet KI-Unternehmen neue Geschäftsmodelle. Beispiele hierfür sind Affiliate-Provisionen, Vermittlungs- und Buchungsgebühren, bezahlte Produktplatzierungen oder klassische Werbeeinnahmen.
Grundsätzlich ist daran nichts ungewöhnlich. Viele digitale Plattformen finanzieren sich auf diese Weise.
Bei einem KI-Assistenten entsteht eine besondere Situation:
Wir erwarten von ihm, dass er unsere Frage versteht und uns eine passende Antwort gibt. Gleichzeitig verdient der Betreiber künftig daran, welche Antwort er uns gibt. Davon hängt ab, für welches Produkt oder welchen Anbieter wir uns anschließend entscheiden.
Damit entsteht ein potenzieller Interessenkonflikt.
Ist die beste Empfehlung auch die wirtschaftlich interessanteste?
Stellen wir einem KI-Assistenten die Frage „Welches Hotel passt am besten zu meiner Reise?“ oder „Welchen Fernseher kaufe ich?“, erwarten wir, dass er uns etwas empfiehlt, das unsere Anforderungen erfüllt.
Was passiert, wenn der Betreiber des KI-Systems Provisionen erhält, sobald Nutzer erfolgreich ein Hotel buchen? Oder wenn bestimmte Händler bezahlen, damit das System sie bevorzugt berücksichtigt?
Für den Nutzer muss zumindest transparent sein, wie eine Empfehlung zustande gekommen ist.
Das kennen wir von klassischen Suchmaschinen. Neben den organischen Suchergebnissen gibt es bezahlte Anzeigen und kommerzielle Angebote. Der entscheidende Unterschied: Bei einer Suchmaschine sind Werbung und Suchergebnis zumindest grundsätzlich als solche erkennbar.
Bei einem KI-Assistenten erhalten wir dagegen eine formulierte Antwort.
Je stärker kommerzielle Interessen diese Antwort beeinflussen, desto wichtiger wird die Frage: Empfiehlt mir die KI etwas, weil es für mich die beste Option ist? Oder steckt dahinter nur der Wunsch, dass jemand daran verdient, dass ich diesen Vorschlag annehme?
KI kennt mehr Kontext als eine klassische Suchmaschine
Hinzu kommt ein weiterer Unterschied.
Ein KI-Assistent besitzt wesentlich mehr Kontext über seinen Nutzer als eine einzelne Suchanfrage verrät.
Dazu gehören je nach System, den gewählten Einstellungen und den angebundenen Diensten unterschiedliche Daten. Beispiele hierfür sind frühere Unterhaltungen, Such- und Recherchethemen, Standortinformationen oder Informationen aus Anwendungen, die Sie verbunden haben.
Dieser Kontext macht KI-Assistenten so hilfreich. Er ermöglicht es ihnen, Zusammenhänge zu verstehen und Antworten stärker auf den Nutzer abzustimmen.
Aus kommerzieller Sicht macht derselbe Kontext diese Systeme allerdings ebenfalls interessant.
Ein System versteht die Interessen und Absichten eines Menschen immer besser. Dadurch schneidet es Produkte, Dienstleistungen oder Werbung genauer auf ihn zu.
Was bedeutet das für private Nutzer?
Nehmen wir ein sensibles Beispiel:
Du recherchierst über längere Zeit zu einer bestimmten Krankheit.
Aus den Fragen leitet ein System möglicherweise ab, dass dieses Thema für Dich relevant ist. Diese Schlussfolgerung muss keineswegs richtig sein. Du recherchierst womöglich für einen Angehörigen, für einen Artikel oder aus Interesse.
Aus einer Reihe von Fragen entsteht ein Profil.
Das Beispiel zeigt ein grundsätzliches Problem: Kontext ist nicht gleich Wahrheit.
Ein KI-System weiß viel über unsere Interessen. Dennoch zieht es oft falsche Schlüsse darüber, warum wir uns für ein Thema interessieren.
Deshalb stellt sich bei der Auswahl eines KI-Assistenten nicht die Frage, wie gut seine Antworten sind. Ebenso wichtig ist: Was geschieht mit den Informationen, die ich ihm anvertraue?
Unternehmen messen der Frage eine größere Bedeutung bei.
Was für Privatpersonen relevant ist, hat für Unternehmen kritische Auswirkungen.
Mitarbeiter recherchieren mit KI-Systemen zu neuen Produkten, technischen Problemen, möglichen Investitionen, Kundenprojekten oder strategischen Entscheidungen. Die Fragen enthalten wertvolle Informationen.
Ein Beispiel:
Ein Entwicklungsteam recherchiert über mehrere Wochen intensiv zu einer bestimmten Technologie. Ein Einkaufsteam beschäftigt sich gleichzeitig mit möglichen Lieferanten. Das Management stellt Fragen zu Marktchancen und Wettbewerbern.
Jede Anfrage mag harmlos erscheinen. Zusammengenommen verraten sie jedoch viel darüber, womit sich ein Unternehmen gerade beschäftigt.
Wir betrachten nicht nur Dokumente oder personenbezogene Daten als schützenswert. Prompts, Suchanfragen und der daraus entstehende Kontext stellen ebenfalls vertrauliches Unternehmenswissen dar, da sie das Wissen eines Unternehmens widerspiegeln.
Aus unserer Sicht spielt es keine entscheidende Rolle, ob ein Mitarbeiter einen geschäftlichen oder privaten Account verwendet. Sobald ein Mitarbeiter Unternehmensinformationen in einen externen Dienst eingibt, muss das Unternehmen wissen: Was geschieht mit diesen Informationen und wer greift darauf zu?
Einen Einblick, welche Informationen bereits zusammengekommen sind und wie Menschen Ai nutzen, zeigt das Forschungsprojekt https://www.ai-observatory.org/. Und das ist die Spitze des Eisbergs.
Unser Ansatz: Zero Trust
Bei LokiAi entschieden wir uns deshalb für einen anderen Ansatz: Zero Trust.
Datenschutz ist für uns keine Marketingaussage, sondern eine technische Vorgabe für die Architektur des Systems.
Der einfachste Weg, Informationen unserer Kunden zu schützen, besteht aus unserer Sicht in einer klaren Entscheidung: Wir wollen diese Daten nicht für kommerzielle Zwecke besitzen oder auswerten.
Für uns gelten klare Sätze:
· Wir wollen so wenig wie möglich über den einzelnen Nutzer wissen.
· Wir analysieren Chats nicht, um daraus Nutzer- oder Interessenprofile zu erstellen.
· Wir geben die Inhalte von Chats nicht zu Werbe- oder Vermarktungszwecken an Dritte weiter. Wir speichern Daten verschlüsselt.
· Wir beschränken den Zugriff auf Daten technisch und organisatorisch auf das notwendige Minimum.
Das unterscheidet sich von einem Geschäftsmodell dessen wirtschaftlicher Erfolg davon abhängt, viel über die Interessen eines Nutzers zu erfahren.
Wir wollen nicht daran verdienen, was unsere Nutzer interessiert.