Wie Arbeitgeber mit KI ihre Belegschaften ausspionieren

FILE PHOTO: Small toy figures are seen in front of diplayed Zoom logo in this illustration taken March 19, 2020. REUTERS/Dado Ruvic/Illustration/File Photo GLOBAL BUSINESS WEEK AHEAD/File Photo

Ein erst sieben Jahre altes Tech-Unternehmen hilft einer Vielzahl an Firmen und Konzernen dabei, die Nachrichten ihrer Mitarbeiter auf Slack, Microsoft Teams, Zoom und Co auf “firmenschädigendes Material” durchzuchecken. Das Start-up mit dem Namen Aware (vormals Wiretap) soll Konzerne auf “Gefahren in den Chats ihrer Mitarbeiter” aufmerksam machen und so auch das Feedback zur Firmenpolitik einfangen. Kritische Stimmen aus dem Raum des KI-Aktivismus sehen in der Vorgangsweise eher eine Vorstufe zu den dystopischen Arbeitsverhältnissen in den Büchern George Orwells, wie CNBC berichtet.

Jutta Williams ist eine dieser Stimmen. Sie ist Mitbegründerin der Non-Profit-Organisation Human Intelligence, die sich mit dem verantwortlichen Gebrauch künstlicher Intelligenz beschäftigt. In ihrer Aussage über den Gebrauch von KI-Tools zur allgemeinen Überwachung hält auch sie sich nicht mit Orwell-Vokabular zurück: “Ganz viele dieser Nachrichten werden dann zu Gedankenverbrechen. Diese Art, Menschen wie Inventar zu behandeln, habe ich so noch nicht gesehen.”

Nischenmarkt im KI-Boom

Überwachung von Mitarbeitern ist ein explodierender, aber insgesamt gesehen eher noch kleiner Teil der seit der Veröffentlichung von OpenAIs ChatGPT boomenden KI-Landschaft. In den letzten fünf Jahren konnte Aware sein Umsatzwachstum pro Jahr durchschnittlich um 150 Prozent steigern. Ein durchschnittliches Unternehmen, das die Services von Aware nutzt, umfasst laut Awares CEO Jeff Schumann um die 30.000 Mitarbeiter. Der CEO erklärt den Anwendungsbereich seiner Applikationen so:” Die KI unterstützt Unternehmen dabei, das Risiko innerhalb ihrer Kommunikation zu erkennen, und zwar in Echtzeit, statt auf eine jährliche bis halbjährliche Mitarbeiterumfrage angewiesen zu sein.”

Aware bietet in seinem Service zwei wesentliche Tools an: ein analytisches, das die generelle Mitarbeiterstimmung und die Rate an verhaltensauffälligen Nachrichten anonymisiert misst, sowie das sogenannte eDiscovery-Tool. Dieses Tool kann im Fall einer besonders risikoreichen Nachricht oder unmittelbar schädlichen Verhaltens, welches vom Arbeitgeber in den Einstellungen definiert werden kann, den Namen und diverse weitere Kontaktdaten der involvierten Mitarbeiter herausfinden. Nach eigener Aussage werden rund 80 Prozent der Profite von Aware über solche Überwachungsprogramme lukriert.

BigBrotherLite

Bevor Schumann Aware gründete, war seine professionelle Karriere schon nahe an den Begriffen Orwells gebaut. Im Jahr 2005 etablierte Schumann eine Firma mit dem klangvollen Namen BigBrotherLite.com, die, wie Schumann auf Linkedin beschreibt, eine “überarbeitete Art, die Fernsehserie ‘Big Brother’ auf digitalen und mobilen Geräten zu schauen”, bieten sollte. Mittlerweile hantiert seine neu Firma Aware mit Zahlen, die mit dem literarischen Vorbild konkurrieren.

Jedes Jahr veröffentlicht das Unternehmen einen Bericht, der Erkenntnisse aus Milliarden von Nachrichten zusammenfasst. Allein im Jahr 2023 wurden in den Chats großer Unternehmen 6,5 Milliarden Textnachrichten versendet. Schumann bezeichnet die Billionen von Nachrichten, die Jahr über Jahr bei Kommunikationsplattformen am Arbeitsplatz versendet werden, als “das am schnellsten wachsende unstrukturierte Datenset der Welt”.

Aber nicht nur die schiere Menge an Daten löst bei Expertinnen und Experten Beklemmungsgefühle aus, sondern auch der Fakt, dass KI die Entscheidung darüber trifft, was riskant oder nicht riskant ist. Amba Kak, Executive Director des AI-Now-Instituts an der New York University, spricht über die Entwicklungen künstlicher Intelligenz im Überwachungssektor so:” Es hat einen abschreckenden Effekt auf die Kommunikation am Arbeitsplatz. Die Federal Trade Commission, das Justizministerium und die Equal Employment Opportunity Commission haben allesamt Bedenken in dieser Angelegenheit geäußert. Es ist ebenso eine Frage der Privatsphäre wie eine der Arbeitnehmerrechte.” (gld, 13.02.2024)