Die Verbreitung von KI-generierten Fälschungen hat sich zu einem alarmierenden Phänomen entwickelt, das nicht nur die Integrität individueller Persönlichkeiten untergräbt, sondern auch die gesamte Informationsgesellschaft in Frage stellt. Jordan B. Peterson, ein kanadischer Psychologe und Publizist mit internationaler Bekanntheit, berichtet über die zunehmende Verbreitung von gefälschten Inhalten, bei denen seine Stimme und Erscheinung manipuliert werden, um pseudowissenschaftliche oder pseudoethische Botschaften zu verbreiten. Diese Fälschungen sind nicht nur eine Form des Betrugs, sondern auch ein Angriff auf die Glaubwürdigkeit von Wissen und Diskurs. Peterson kritisiert, dass solche Manipulationen die Aufmerksamkeit und den Ruf eines Individuums missbrauchen, um Profit zu erzielen – ein Vorgang, der in der digitalen Ära als „Parasitenproblem“ bezeichnet werden könnte.
Sam Harris, ein renommierter Philosoph und Meditations-App-Entwickler, ergänzt, dass die Technologie bereits so fortgeschritten ist, dass selbst hochwertige KI-Bearbeitungen kaum noch von echten Inhalten zu unterscheiden sind. Er warnt davor, dass solche Fälschungen in Zukunft nicht nur individuelle Persönlichkeiten betreffen, sondern auch die gesamte Informationsverbreitung revolutionieren könnten. Harris stellt sich vor, dass es in wenigen Monaten oder Jahren möglich sein wird, vollständig künstliche Versionen von Prominenten zu erstellen, die so realistisch wirken, dass sie als echt wahrgenommen werden. Peterson geht noch weiter und fordert Maßnahmen wie Bezahlmodelle, um solche Betrugsversuche einzudämmen. Gleichzeitig kritisiert er die fehlende gesetzliche Regelung für solche Fälle, was zu einem Klima der Unverantwortlichkeit führt.
Die Diskussion wirft tiefgreifende Fragen über die ethischen Grenzen künstlicher Intelligenz auf. Peterson betont, dass das Entwenden digitaler Identitäten eine Form von „Entführung“ darstellt, die den Wert des Rufes eines Individuums missbraucht. Er fordert, dass solche Handlungen mit langen Haftstrafen bestraft werden müssten, um Schutz vor dieser wachsenden Bedrohung zu gewährleisten. Harris hält dagegen, dass die Technologie selbst nicht schuld ist – vielmehr seien die Programmierer verantwortlich für ihre Nutzung. Dennoch bleibt unbestritten, dass solche Fälschungen in der Zukunft eine erhebliche Gefahr darstellen könnten, insbesondere wenn sie von kriminellen Akteuren missbraucht werden.
