Round-Down-Betrug und Citogenesis*
Beim so genannten Round-Down-Betrug werden bei Tausenden von Finanztransaktionen winzige, unmerkliche Bruchteile von Cents abgeschöpft. Für den einzelnen Kontoinhaber ist der Verlust nicht messbar, doch in der Masse addieren sich diese „Scheiben“ zu einem illegalen Millionenschaden. Das finanzielle Vorgehen bietet eine überraschend scharfe Metapher für ein aktuelles Problem des KI-Zeitalters: Die Citogenesis. Durch sie werden viele kleine ungesicherte Informationen zu einer scheinbar unantastbaren, „gefühlten Wahrheit“, die weitreichende Vertrauensschäden bewirken kann.
Im Kern sind beide Phänomene das Ergebnis eines algorithmischen Prozesses, der erst in großer Skalierung so richtig wirksam wird.
Der Algorithmus des Diebstahls (Round-Down-Betrug)
Im Finanzwesen besteht der Algorithmus aus einem manipulierten Programmcode. Die Anweisung lautet: Nimm den kleinen Restbetrag R jeder Transaktion T und leite ihn auf ein privates Sammelkonto um. Der Erfolg hängt von zwei Faktoren ab: Der Unauffälligkeit des einzelnen Abzugs und der Masse der Transaktionen.
Der Algorithmus der Falschheit (Citogenesis)
In der Welt des Wissens ist der Algorithmus die unreflektierte Reproduktion. Hierbei fungiert eine einzelne, ungesicherte Behauptung B (z.B. ein falsches Geburtsdatum oder ein unbestätigtes Zitat) als der Manipulationscode. Die Anweisung lautet: Wenn du diese Behauptung häufig findest, zitiere sie als Fakt, ohne die Primärquelle im Hinblick auf ihre Echtheit zu prüfen.
Jedes Zitat ist eine neue Reproduktion. Jede neue Reproduktion verstärkt die scheinbare Autorität des Fakts. Die Masse der Reproduktionen überlagert die tatsächliche Korrektheit.
Die KI als Turbo-Verstärker
Was die Analogie im 21. Jahrhundert so brisant macht, ist die Rolle der generativen Künstlichen Intelligenz.
- KI-Modelle werden mit riesigen Datenmengen trainiert, die aus dem Internet stammen. Sie sind hervorragend darin, Muster und Häufigkeiten zu erkennen und zu reproduzieren. Der kritische Punkt ist: Für eine KI ist die Häufigkeit der Reproduktion oft ein stärkeres Signal als die tatsächliche Verifizierbarkeit.
- Wenn eine citogenetische Falschinformation bereits hunderttausendfach in Büchern, Blogs und Datenbanken reproduziert wurde, erkennt die KI dies als ein hoch-bestätigtes Informationsmuster. Der Algorithmus der Citogenesis ist somit in das Wissensfundament der KI per default mit eingebaut.
Die KI reproduziert den Fehler und untermauert ihn mit neu generierten, aber plausibel klingenden Quellenangaben, die wiederum auf andere falsch zitierte Quellen verweisen können. Die KI verwandelt damit die langsame, organische Salami-Taktik der Information in einen exponentiellen, automatisierten Prozess.
Der Schaden: Vom Geldverlust zur Wissenserosion
Während der Round-Down-Betrug einen direkten finanziellen Schaden (Verlust von Millionen) verursacht, ist der Schaden der Citogenesis ein primär Verlust, der die Grundlage unseres Wissens und unserer Entscheidungsfindung angreift.
- Entscheidungsfehler: Die Verwendung ungesicherter Fakten als Grundlage für wissenschaftliche Forschung, wirtschaftliche Investitionen oder juristische Urteile führt zu Fehlentscheidungen, die Zeit, Ressourcen und Glaubwürdigkeit kosten.
- Erosion des Vertrauens: Die Citogenesis macht die Herkunft von Fakten undurchsichtig. Wenn selbst vermeintlich seriöse Quellen und KI-Systeme Fehler reproduzieren, die nicht mehr bis zur Ursache zurückverfolgt werden können, verliert die Öffentlichkeit das Vertrauen in die Verlässlichkeit von Information an sich.
- Die Dominanz der Wiederholung: Der größte Schaden ist die Verdrängung der Wahrheit durch die Plausibilität. Die Anzahl der Zitate wird wichtiger als die Richtigkeit des Ursprungs. Die Häufigkeit der Reproduktion wird zum neuen Wahrheitskriterium.
Fazit: Auditieren von Algorithmen und Daten
Sowohl im Finanzwesen als auch in der Informationsverarbeitung muss die Reaktion dieselbe sein. Algorithmen und Daten müssen sorgfältig auditiert werden.
Im Finanzwesen wurden Round-Down-Betrügereien durch strengere Audits und Transaktionsprotokolle eingedämmt. In der digitalen Welt muss dies durch einen kritischen, quellenbasierten Medienkonsum geschehen. Es gilt, über die Oberfläche der Reproduktion hinauszusehen und die Primärquelle relevanter Fakten zu fordern – um zu verhindern, dass die Salami-Taktik der Information unsere kollektive Wahrheit Scheibe für Scheibe zerlegt.
Das Konzept der Algorithmic validated Plausibility (AVP) hat sich zum Ziel gesetzt, die Vertrauenswürdigkeit von Information mittels Algorithmen zu erhöhen. Neun führende KI-Systeme müssen die gleiche Herausforderung meistern. Auf Basis eines AVP-Masterprompts prüfen sie die Vertrauenswürdigkeit einer Information. Am Ende werden die sich daraus ergebenden Vertrauens-Scores kumuliert.
AVP-Scores erheben keinen Anspruch auf Wahrheit.
Ihr primäres Ziel ist es, in Anbetracht rasant zunehmender Falschinformation bestmögliche Orientierung zu ermöglichen.
Mehr zum Thema Citogenesis in diesem Beitrag.
