Vertrauen in eine synthetische Realität

Warum KI-Betrug zu einer Herausforderung für das Geschäftsmodell wird.

Stellen Sie sich vor, Sie erhalten einen Videoanruf von Ihrem Geschäftsführer. Sie erkennen sein Gesicht, seine Stimme und seine vertraute Art zu sprechen. Die Angelegenheit ist dringend, und die Anweisung wirkt vertrauenswürdig.

Nur eines stimmt nicht: Die Person, mit der Sie sprechen, hat diesen Anruf nicht getätigt.

Generative künstliche Intelligenz hat unsere Kommunikation grundlegend verändert: Was wir sehen und hören, ist nicht mehr automatisch ein verlässlicher Beweis für die Echtheit.

Dieselbe Technologie, mit der sich neue Produkte entwickeln, Forschungsprozesse beschleunigen und Geschäftsabläufe verbessern lassen, kann auch täuschend echte Stimmen, gefälschte Dokumente und digitale Identitäten erzeugen.

Wie wir in dieser Blogserie bereits beschrieben haben, gehört KI zu den bedeutendsten technologischen Errungenschaften unserer Zeit. Ihr Potenzial ist aussergewöhnlich. Doch um dieses Potenzial verantwortungsvoll zu nutzen, genügt Begeisterung für Innovation allein nicht.

Wir müssen deshalb neu denken, wie Vertrauen entsteht, geschützt wird und im Alltag getragen wird.

Wenn Vertrauen zur Schwachstelle wird

Unternehmen verlassen sich seit Jahrzehnten auf vertraute Merkmale, um die Glaubwürdigkeit einer Person oder einer Nachricht einzuschätzen. Wir erkennen die Stimme einer Kollegin, vertrauen der bekannten E-Mail-Adresse eines Lieferanten oder nehmen an, dass unser Gegenüber in einer Videokonferenz tatsächlich die Person ist, für die es sich ausgibt.

Solche Annahmen werden zunehmend unsicher.

Eine Finanzverantwortliche könnte eine scheinbar authentische Anweisung der Geschäftsleitung erhalten, eine dringende Zahlung vorzunehmen. Eine Personalabteilung könnte ein Vorstellungsgespräch mit einer Person führen, deren digitale Identität manipuliert wurde. Kunden könnten Nachrichten erhalten, die die Sprache, die Gestaltung und das Auftreten eines Unternehmens überzeugend imitieren.

Diese Beispiele zeigen Schwachstellen in alltäglichen Geschäftsprozessen auf. Die Folgen reichen von finanziellen Verlusten über den Missbrauch vertraulicher Informationen bis hin zu beschädigten Kundenbeziehungen.

KI hat Betrug nicht erfunden.

 Täuschung und Identitätsmissbrauch gab es schon lange vor der generativen KI. Neu ist jedoch die Möglichkeit, überzeugende Fälschungen mit geringem Aufwand, hoher Geschwindigkeit und in grossem Umfang herzustellen.

Die Folgen betreffen deshalb weit mehr als nur die IT-Sicherheit. Sie berühren die Grundlagen geschäftlicher Beziehungen und unternehmerischer Entscheidungen.

Das eigentliche Problem liegt möglicherweise nicht in der Technologie, sondern darin, wie Ihr Unternehmen Entscheidungen trifft, sich absichert und Vertrauen schafft.

Viele Unternehmen reagieren auf KI-gestützten Betrug mit zusätzlichen technischen

Sicherheitsmassnahmen. Automatische Erkennungssysteme, digitale Authentifizierung und die Überwachung ungewöhnlicher Vorgänge sind wichtig.

Doch Technologie allein genügt nicht.

Nehmen wir ein Unternehmen, in dem ein Mitglied der Geschäftsleitung mit einer einzigen Nachricht eine grössere Zahlung auslösen kann. Wirkt diese Nachricht glaubwürdig, wird die Überweisung möglicherweise ohne weitere Kontrolle ausgeführt.

Die unmittelbare Gefahr besteht darin, dass jemand die Identität der Führungskraft imitiert. Die eigentliche Schwachstelle liegt jedoch tiefer: Der Genehmigungsprozess hängt zu stark von der Glaubwürdigkeit einer einzelnen Mitteilung ab.

Hier liegt der entscheidende Hebel des Business Designs: in den Entscheidungsprozessen, die Vertrauen tragen müssen.

Ein widerstandsfähiges Unternehmen gestaltet seine Entscheidungsprozesse mit klaren Verantwortlichkeiten, unabhängigen Überprüfungen und angemessenen Sicherheitsmechanismen.

Wichtige Transaktionen dürfen nicht ausschliesslich davon abhängen, ob wir eine Stimme wiedererkennen, einer E-Mail-Adresse vertrauen oder eine Videokonferenz für authentisch halten.

Vertrauen wird damit durch verlässliche Prozesse gestützt, statt einfach vorausgesetzt zu werden.

Der Unterschied ist grundlegend: Vertrauen sollte nicht nur Technologie begleiten, sondern in den Systemen verankert sein, die es tragen.

Es geht nicht darum, Vertrauen abzuschaffen. Es geht darum, Vertrauen so zu gestalten, dass es Manipulationen standhält.

Drei Prinzipien für mehr Sicherheit und Vertrauen

Nicht jeder Geschäftsvorgang erfordert aufwendige Kontrollen. Entscheidend ist, dass die Sicherheitsmassnahmen den möglichen Folgen einer Fehlentscheidung angemessen sind.

Drei Prinzipien bieten dafür einen praktischen Ausgangspunkt.

1. Identität unabhängig überprüfen

Ungewöhnliche Anweisungen, die Zahlungen, vertrauliche Informationen oder bestehende Geschäftsbeziehungen betreffen, sollten über einen unabhängigen Kommunikationsweg bestätigt werden.

Ein Anruf bei einer bereits bekannten Telefonnummer kann eine unerwartete E-Mail überprüfen. Ein internes Freigabesystem kann bestätigen, ob eine Anweisung tatsächlich von der Geschäftsleitung stammt.

Die Regel ist einfach: Verlassen Sie sich bei verdächtigen oder besonders wichtigen Anweisungen niemals ausschliesslich auf den Kommunikationskanal, über den die Aufforderung eingegangen ist.

2. Sicherheitsmechanismen in Entscheidungen integrieren

Die Überprüfung wichtiger Vorgänge sollte Bestandteil der normalen Geschäftsprozesse sein und nicht erst bei einem Betrugsverdacht erfolgen.

Grössere Zahlungen, Änderungen an Bankver

bindungen oder die Weitergabe sensibler Informationen können zusätzliche Freigaben oder unabhängige Bestätigungen erfordern.

Dadurch entsteht eine Art positive Reibung: eine bewusste Unterbrechung eines kritischen Ablaufs, die einen wesentlich grösseren Schaden verhindern kann.

Effizienz bleibt wichtig. Wer jedoch jedes Hindernis aus einem Prozess entfernt, beseitigt unter Umständen auch notwendige Sicherheitsmechanismen.

3. Kritisches Nachfragen ausdrücklich fördern

Selbst gut gestaltete Verfahren funktionieren nur, wenn die Mitarbeitenden bereit sind, sie anzuwenden.

Wer eine ungewöhnliche Anweisung von einer vorgesetzten Person erhält, soll ohne Bedenken nachfragen. Eine Rückfrage sollte als Ausdruck professioneller Verantwortung gelten und nicht als Misstrauen oder mangelnde Loyalität. Sie sollte ausdrücklich erwünscht sein, wenn etwas unklar ist.

Die Führung trägt dabei eine besondere Verantwortung.

Wenn Mitarbeitende ausschliesslich für Schnelligkeit und widerspruchslose Ausführung belohnt werden, verlieren Sicherheitsverfahren gerade in kritischen Situationen ihre Wirkung.

Vertrauenswürdige Unternehmen fördern eigenständiges Urteilsvermögen, Transparenz und die Bereitschaft, Annahmen zu hinterfragen. Sie schaffen zudem eine Kultur, in der kritisches Nachfragen sicher und ausdrücklich erwünscht ist. Kritisches Nachfragen muss bewusst gefördert und in der Praxis unterstützt werden.

Über Betrug hinaus: Die umfassendere Verantwortung

Bewusste Täuschung ist nur ein Teil der Herausforderung.

Unternehmen können Vertrauen auch unbeabsichtigt gefährden: durch fehlerhafte KI-generierte Informationen, unangemessene automatisierte Entscheidungen oder einen nachlässigen Umgang mit sensiblen Daten.

Internationale Rahmenwerke wie das NIST AI Risk Management Framework bieten eine hilfreiche Orientierung, um Risiken beim Einsatz von künstlicher Intelligenz systematisch zu erkennen und zu bewältigen. In Europa ergänzen solche Ansätze die Anforderungen des EU AI Act, der für Unternehmen in seinem Anwendungsbereich verbindliche Vorgaben festlegt.

Doch Richtlinien und Rahmenwerke allein reichen nicht aus. Verantwortung muss sich in alltäglichen Entscheidungen, klaren Zuständigkeiten und nachvollziehbaren Abläufen widerspiegeln.

Hier gewinnt Future Thinking an Bedeutung: Unternehmen sollten frühzeitig überlegen, was diese Entwicklung für Kundenbeziehungen, digitale Identitäten, Führungsverantwortung und die Glaubwürdigkeit von Informationen bedeutet.

Je überzeugender synthetische Inhalte werden, desto schwieriger wird es, authentische von manipulierten Informationen zu unterscheiden. Unternehmen sollten deshalb frühzeitig überlegen, was diese Entwicklung für Kundenbeziehungen, digitale Identitäten, Führungsverantwortung und die Glaubwürdigkeit von Informationen bedeutet.

Wer sich rechtzeitig vorbereitet, schafft bessere Voraussetzungen, um die Chancen der KI zu nutzen und zugleich das Vertrauen von Kunden, Mitarbeitenden und Geschäftspartnern zu schützen.

Vertrauen muss gestaltet werden

Die Entwicklung der KI wird weitergehen. Ihre Fähigkeit, überzeugende Inhalte zu erzeugen, wird zunehmen. Damit entstehen aussergewöhnliche Möglichkeiten, aber auch neue Formen des Missbrauchs.

Die Antwort darauf kann nicht sein, Innovation zu bremsen oder Technologie grundsätzlich als Bedrohung zu betrachten.

Vielmehr müssen wir das Urteilsvermögen, die Sicherheitsmechanismen und die organisatorischen Strukturen entwickeln, die einen verantwortungsvollen Einsatz ermöglichen.

MaxMORIX EXPERTS unterstützt Führungskräfte dabei, die Auswirkungen neuer Technologien auf Geschäftsmodelle, Entscheidungsprozesse und unternehmerische Verantwortung zu verstehen.

Mit Business Design und Future Thinking erkennen wir mögliche Schwachstellen, hinterfragen bestehende Annahmen und übersetzen strategische Herausforderungen in konkrete Verbesserungen.

Die entscheidende Frage lautet nicht mehr, ob synthetische Täuschung Ihr Unternehmen betreffen könnte. Entscheidend ist, ob Ihre Organisation darauf vorbereitet ist, sie zu erkennen und angemessen darauf zu reagieren.

Wie sicher sind Sie, dass Ihre wichtigsten Geschäftsentscheidungen einem überzeugenden Versuch der digitalen Identitätsfälschung standhalten würden?