Unbekannte Täter haben die Stimme von Präsident Joe Biden gefälscht, um die Vorwahlen in New Hampshire zu stören
Die US-amerikanische Federal Communications Commission (FCC) hat erklärt, dass sie KI-generierte betrügerische „Robocalls“ verbieten wird, nachdem Einwohner von New Hampshire Anrufe von einem computergenerierten Joe Biden erhalten haben, der sie dazu drängt, die Vorwahlen der Demokraten im Bundesstaat auszusetzen.
In einer am Mittwoch veröffentlichten Erklärung sagte die FCC-Vorsitzende Jessica Rosenworcel, dass sie ihre Behörde anweisen werde, Anrufe, die mit KI-generierten Stimmen getätigt werden, als „künstlich“ anzuerkennen und sie damit denselben Regeln zu unterwerfen, die bereits für zuvor aufgezeichnete „Robocalls“ gelten.
Gemäß dem Telephone Consumer Protection Act (TCPA) der FCC müssen Telemarketer die vorherige Zustimmung der Verbraucher einholen, bevor sie diese mit „künstlichen“ Nachrichten anrufen. Sollten KI-generierte Stimmen als „künstlich“ eingestuft werden, könnten die Generalstaatsanwälte die verantwortlichen Unternehmen oder Organisationen strafrechtlich verfolgen.
„KI-generiertes Stimmenklonen und Bilder stiften bereits Verwirrung, indem sie Verbraucher dazu verleiten, Betrug und Betrügereien für legitim zu halten“, sagte Rosenworcel. „Egal welche Berühmtheit oder welchen Politiker Sie bevorzugen oder welche Beziehung Sie zu Ihren Verwandten haben, wenn sie um Hilfe rufen, es ist möglich, dass wir alle zum Ziel dieser gefälschten Anrufe werden.“
Obwohl Rosenworcel den Vorfall nicht erwähnte, kam ihre Erklärung weniger als zwei Wochen, nachdem Wähler in New Hampshire Anrufe von einer Stimme erhalten hatten, die sich als Präsident Joe Biden ausgab. In der Aufzeichnung fordert „Biden“ die Wähler auf, ihre Stimmen zu „speichern“ und während der Vorwahlen nicht zur Wahl zu gehen.
„Es ist wichtig, dass Sie Ihre Stimme für die Wahl im November aufheben. Wir brauchen Ihre Hilfe bei der Wahl der Demokraten auf der Kandidatenliste“, hieß es in der von der KI gesprochenen Botschaft. „Die Abstimmung an diesem Dienstag hilft den Republikanern nur dabei, Donald Trump erneut zu wählen.“
Es bleibt unklar, wer hinter den Anrufen steckte, die der Generalstaatsanwalt von New Hampshire, John Formella, als „einen rechtswidrigen Versuch, die Präsidentschaftswahlen in New Hampshire zu stören und die Wähler in New Hampshire zu unterdrücken“ bezeichnete.
Forscher sagten letzte Woche, dass die Täter wahrscheinlich seien gefälscht Bidens Stimme mithilfe der Software eines Voice-Cloning-Startups namens ElevenLabs. Die Sicherheitsrichtlinie des Unternehmens besagt, dass Benutzer normalerweise keine Erlaubnis einholen müssen, um die Stimme eines Amtsträgers für „politische Reden, die zu öffentlichen Debatten beitragen“ zu klonen.
Sie können diese Geschichte in den sozialen Medien teilen: