Zusamenfassend

• Auf TikTok sehen wir ein Dutzend Werbeanzeigen, die mit Deepfake-Technologie erstellt wurden
• Anzeigen beziehen sich auf Kredite mit irreführenden Angaben
• Experten sehen in dieser Art der Werbung große Risiken
• Die Aufsichtsbehörden wissen nicht, wer hinter den Anzeigen steckt

‚Brauchen Sie einen Kredit? Ihre Kreditgeschichte ist nicht wichtig, kein Papierkram. Die Stimme klingt roboterhaft, aber die Frau auf dem Bildschirm scheint real zu sein. Dennoch ist dies ein von der KI erstellter Deepfake. In den letzten Wochen sind auf TikTok ein Dutzend solcher Videos von ebenso vielen Accounts aufgetaucht, in denen Nutzer versucht sind, einen Kredit aufzunehmen oder online zu beantragen.

Lesen Sie auch | Wachsende Kritik an KI-Anwendungen

DuckDuckGoose, ein auf KI-Erkennung spezialisiertes niederländisches Startup, identifizierte die Bilder auf Anfrage des BNR als Produkt von Synthesia, einem Softwarepaket, das weniger als 30 Euro pro Monat kostet. Laut Mark Evenblij, einem der Gründer von DuckDuckGoose, sind diese Anzeigen die Zukunft von Spam. „Sie können dies sehr kostengünstig in Dutzenden von Sprachen bereitstellen“, sagt Evenblij. „Jetzt ist die Stimme vielleicht noch als Roboter erkennbar, aber es wird nicht mehr lange dauern.“

Anfang dieses Jahres erstmals in den USA gesichtet

Vor weniger als drei Monaten, a Deepfake-Ankündigung auf TikTok entdeckt. Der berühmte amerikanische Podcast-Moderator Joe Rogan schien eine Testosteron-Ergänzung zu empfehlen. Die AI-Darlehensankündigungen sind eine Premiere für die Niederlande, sagen Experten. „Das habe ich noch nie gesehen“, sagt TikTok-Experte Joey Scheufler. „Auf YouTube wird KI für organische Inhalte verwendet, aber diese Art von Anzeigen sind neu.“ Scheufler sieht Anzeigen als Vorreiter einer technologischen Revolution. „Das ist erst der Anfang.“ Online-Marketing-Experte Tim Konijn nennt diese Technik „extrem betrugsanfällig“. „So kann man schädliche Inhalte sehr schnell verbreiten.“

Lesen Sie auch | Der Aufstieg der KI ist eine größere Revolution als die Erfindung des Computers

Auch der Gründer von AI.nl, Remy Gieling, sieht einen großen Einfluss der künstlichen Intelligenz in der Werbewelt. „Auf der einen Seite werden es große Marken verwenden, aber auf der anderen Seite kann es auch von böswilligen Parteien verwendet werden, die alle Arten von Spam-Produkten verkaufen wollen.“

Der Artikel geht unter dem Bild weiter.

KI-Systeme machen es einfach, Videos in praktisch jeder erdenklichen Sprache zu produzieren. Die digitalen sprechenden Puppen von Synthesia sprechen etwa 120 Sprachen. International operierende Netzwerke können in kürzester Zeit ein globales Publikum erreichen. Niederländische Anzeigen sind Teil eines solchen Netzwerks. Die Websites, auf die die Anzeigen verlinken, sind in mindestens acht Sprachen verfügbar, darunter Deutsch, Schwedisch und Philippinisch.

Anzeigen beziehen sich auf große Namen

Anzeigen auf TikTok brechen fast jede Regel. Sie respektieren die nicht Kreditauskunftspflichten von der Finanzmarktaufsicht verhängt: Die Warnungen fehlen und die Fakten sind falsch. Sie verstoßen gegen die Nutzungsbedingungen von TikTok, die verbanne Täuschung mit KI. Die Anzeigen leiten Nutzer auf die Websites bekannter niederländischer Marken, darunter ABN Amro, ING, Qeld und PriceWise. Sie wissen jedoch nichts. „Wir wissen nichts über diese Werbemethode und wollen nicht damit in Verbindung gebracht werden“, sagte ein Sprecher von ABN Amro. „Wir werden versuchen, das so schnell wie möglich aus der Luft zu bekommen.“

Auch der Verleiher Qeld will nicht mit TikTok-Werbung in Verbindung gebracht werden: „Uns war die Existenz dieser Videos nicht bekannt, schreibt ein Sprecher. Stoppt diese TikTok-Werbung.“

Lesen Sie auch | Chinesisches Spracherkennungsunternehmen will ChatGPT angehen

Das Erlösmodell hinter den Anzeigen ist ebenso genial wie die Art und Weise, wie sie beworben werden. Wer sich für die Anzeigen interessiert, muss zunächst eine unansehnliche Website besuchen, bevor er am endgültigen Ziel ankommt. Auf dieser Zwischenseite wird das Geld verdient, erklärt Marketingexperte Konijn. Die Seiten enthalten kleine Textanzeigen, die von Google bereitgestellt werden. Google bezahlt dann den Eigentümer dieser Seite pro Klick. Die Empfängerseiten der großen niederländischen Marken bezahlen wiederum Google. Solche Konstrukte kennt man aus anderen sozialen Medien, aber Meta (Instagram und Facebook) geht härter gegen solche Tricks vor. „TikTok ist immer noch ein Wilder Westen mit relativ wenigen Regeln“, sagt Konijn.

Der Artikel geht unter dem Bild weiter.

Geldspoor fährt über München nach Kiew

Die Konstruktion des Katzenfängers ist nicht wasserdicht, teilweise aufgrund der immer strengeren europäischen Gesetzgebung für digitale Werbung. Die verpflichtende Datenschutzerklärung besagt, dass die vermittelnden Webseiten von einem deutschen Unternehmen mit Sitz in München, der Team Internet AG, betrieben werden. Dieses Unternehmen beantwortet Fragen durch seine Rechtsanwältin Johanna Kranzbühler. Ihrer Meinung nach ist das Unternehmen zwar die Technologie hinter der Website, aber nicht für die Werbung verantwortlich. Kranzbühler sagt, das Unternehmen werde sofort handeln, wenn es Anzeichen von Missbrauch gebe. „In diesem Zusammenhang danken wir Ihnen für Ihre Meldung“, schreibt der Anwalt.

Lesen Sie auch | Ukrainischer Minister von russischen Comedians in eine Falle gelockt

Das Kleingedruckte der von dem deutschen Unternehmen betriebenen Seiten enthält manchmal Hinweise auf andere Werbetreibende. Während diese nicht direkt mit KI-Anzeigen für Zahltagdarlehen verknüpft werden können, gibt es ein Unternehmen, das heraussticht, weil es mit ähnlichen KI-Anzeigen verknüpft werden kann, die automatisch gesprochene Texte auf Niederländisch generieren. Es ist ein Unternehmen, das nach Angaben der britischen Handelskammer ein Büro in einer Wohnung in London über einem Supermarkt mit Blick auf die Landebahn eines nahe gelegenen Flughafens hat. Dies scheint eine Postfachadresse zu sein. Mehrere andere Geschäfte befinden sich in der Wohnung. Aber eine ukrainische Jobseite enthüllt die Existenz eines gleichnamigen Unternehmens in diesem Land, das sich auf Werbung auf TikTok spezialisiert hat.

Laut Register der Handelskammer lebt der Direktor des britischen Unternehmens, Ivan S., 34, in der Ukraine. Er ist bereit, Fragen auf Telegram zu beantworten. Der Ukrainer behauptet, dass weder er noch sein Unternehmen für die Videos verantwortlich seien, die für die Kredite werben. Er sagt, er könne nicht mehr viel sagen. „Ich bin mir nicht sicher, ob ich das Recht habe, die Informationen aufgrund einer Vertraulichkeitsvereinbarung weiterzugeben“, sagte S.

Google recherchiert

Auf Nachfrage sagte die niederländische Finanzmarktbehörde, sie habe keine Kenntnis von den Anzeigen, sagte aber, sie verstießen „im Allgemeinen“ gegen die Regeln. Der Vorgesetzte handelt nicht sofort. „Wir wissen nicht, wer diese Aussagen verbreitet. Auch nicht, wenn es im Auftrag eines Finanzunternehmens geschieht“, sagt ein Sprecher. Laut der niederländischen Behörde für Verbraucher und Märkte (ACM) ist es verboten, Verbraucher mit „Personen, die der Verbraucher für echt hält“ in die Irre zu führen. „Auch an die Werbung werden klare Anforderungen gestellt“, erklärt ein Sprecher. ACM betont jedoch die Verantwortung von TikTok, Anzeigen auszuwerten.

Podcasting | Beteiligt sich das Weiße Haus an KI und schränkt Technologiegiganten ein?

Google weist BNR darauf hin, dass es die Angelegenheit untersucht und sich daher nicht konkret dazu äußern kann. Das Unternehmen sagt, dass es sofort handeln wird, wenn irreführende Werbung verwendet wird, um Zugriffe auf das Werbenetzwerk von Google zu lenken. „Zum Beispiel durch die Kündigung des Kontos des Werbetreibenden.“

TikTok reagierte nicht auf Anfragen nach Kommentaren, aber das Unternehmen scheint sich bereits in einem Wettrüsten mit böswilligen Werbetreibenden zu befinden. In den Foren, in denen sich Social-Media-Vermarkter treffen Tipps ausgetauscht um die automatische KI-Erkennung zu umgehen. Die Amerikaner Tech-Site-Informationen berichtete letzte Woche auch, dass TikTok an einem Häkchen arbeitet, mit dem Hersteller angeben können, dass Bilder mit KI erstellt wurden.