KI-generéiert Videoen an Audiodateie vum Poopst Leo XIV. verbreede sech immens séier am Internet a ginn dacks geklickt, wärend d’Plattforme Méi hunn, dës ze kontrolléieren.
E puer honnert gefälscht Priedegten a Rieden op Englesch a Spuenesch, déi vum neie Chef vun der Kathoulescher Kierch komme sollen, weisen, wéi liicht Mënschen duerch KI getäuscht kënne ginn.
Eng AFP-Recherche huet Dosende YouTube- an TikTok-Säiten un d’Liicht bruecht, déi zënter dem Amtsuntrëtt vum Poopst am Mee 2025 kënschtlech hiergestallt Messagë mat senger Stëmm oder mat him a Verbindung stoend verëffentlecht hunn (hei archivéiert).
Honnerte gefälscht Priedegten a Rieden, souwuel op Englesch wéi och op Spuenesch, weisen, wéi liicht et ass, Leit mat Videoen, déi mat Kënschtlecher Intelligenz hiergestallt goufen, ze täuschen. Ausserdeem bleiwen dës Täuschungen dacks onbemierkt.
“Natierlech besteet Intressi dorun, wat den neie Poopst ze soen huet, an d’Leit kenne säi Standpunkt a seng Haltungen nach net”, sot den Oren Etzioni, emeritéierte Professer op der University of Washington a Grënner vun TrueMedia.org, enger gemengnëtzeger Organisatioun, déi sech der Opdeckung vun Deepfakes verschriwwen huet (hei an hei archivéiert). “Déi perfekt Grondlag, fir mat KI-generéierte Falschinformatiounen Onrou ze stëften.”
Nodeem d’AFP 26 Kanäl op YouTube gemellt hat, déi gréisstendeels KI-generéiert Contenuen iwwer de Poopst verëffentlecht hunn, huet d’Plattform 16 dovu wéinst Verstouss géint hir Richtlinne géint Spam, ierféierend Praktiken a Bedruch an och wéinst Verstouss géint d’Notzungsbedéngunge vu YouTube gespaart (hei an hei archivéiert). “Mir hunn e puer Kanäl gespaart, déi eis vun der AFP wéinst Verstouss géint eis Spam-Richtlinnen an Notzungsbedéngunge gemellt goufen”, sot de Spriecher Jack Malon. D’Entreprise huet ausserdeem sechs weider Säiten aus hirem Partnerprogramm, mat deem Content-Creator hir Contenue kommerziell benotze kënnen (hei archivéiert).
Och TikTok huet eelef Konten, op déi d’AFP opmierksam gemaach hat – mat insgesamt iwwer 1,3 Millioune Follower – an huet dobäi op d’Richtlinne vun der Plattform géint Identitéitsbedruch, schiedlech Falschinformatiounen an ierféierend KI-generéiert Contenuen iwwer Persoune vum ëffentleche Liewe verwisen (hei, hei an hei archivéiert).
“Chaotesch Notzung”
Ënner Titele wéi “D’Visioun vum Poopst Leo XIV” gouf de Poopst op YouTube an TikTok gewisen, wéi hien angeeblech eng Abberzuel u Warnungen an Doktrinne matgedeelt huet, iwwer déi hien tatsächlech ni geschwat hat. Hiweiser op d’Benotze vu KI waren dobäi awer dacks schwéier ze fannen – an heiansdo guer net (hei archivéiert).
© AFP
Op YouTube ass eng Kennzeechnung fir Contenuen, déi engem eppes an de Mond leeën, dat hien oder hatt guer net gesot huet, als “verännert oder syntheetesch Contenuen” néideg. Mä esou Hiweiser gi just ënnen an der opklappbarer Beschreiwung vum Video gewisen.
E Spriecher vu YouTube sot, dass d’Entreprise mëttlerweil bei e puer Videoen op de Kanäl, déi vun der AFP gemellt goufen, däitlech siichtbar Kennzeechnungen ubruecht huet, wann dës net géint d’Richtlinne vun der Plattform verstouss hunn.
© AFP
Och TikTok verlaangt vun de Content-Creator, Bäiträg mat realistesch wierkende KI-generéierte Contenuen ze kennzeechnen. Eng Rëtsch Videoen iwwer de Poopst blouwen awer onmarkéiert (hei archivéiert). E Spriecher vun TikTok huet matgedeelt, dass d’Entreprise proaktiv Contenue läsche géif, déi géint d’Richtlinne verstoussen, a verifizéiert Ofzeechen notze géif, fir authentesch Konten ze kennzeechnen.
De Brian Patrick Green, Direkter fir Technologieethik op der Santa Clara University, sot, d’Schwieregkeete bei der Moderatioun wären eng Konsequenz vun der rasanter Entwécklung an der KI, déi “chaotesch Notzunge vun der Technologie” ervirbrénge géifen (hei archivéiert).
Vill Clips op de YouTube-Kaneel, déi vun der AFP identifizéiert goufen, hunn iwwer 10.000 Opriff, éier se desaktivéiert goufen (hei archivéiert).
Op TikTok krut e spueneschsproochege Video 9,6 Millioune Klicks. An dësem gouf behaapt, de Poopst géif iwwer de Wäert vu Fraen, déi hir Partner ënnerstëtzen, priedegen. E weidere Video, deen zwar op d’Benotze vu KI hiweist, Notzer awer nach getäuscht huet, gouf ronn 32,9 Millioune Mol gekuckt.
Kee Video op der offizieller Instagram-Säit vum Poopst huet méi wéi sechs Milliounen Opriff.
Fachleit warnen, dass souguer scheinbar harmlos Fälschunge problematesch si kënnen, besonnesch wa se genotzt ginn, fir Engagement fir Konten ze generéieren, déi spéider d’Donnéeë vun hirer Zilgrupp verkafen oder geziilt Desinformatioun verbreede kéinten.
D’KI-generéiert Priedegten “ënnergruewen net just d’moralesch Autoritéit vum Poopst” a “maachen alles, wat hien tatsächlech seet, manner glafwierdeg”, sot de Green, mee se kéinten och dofir genotzt ginn, “Vertrauen an e Kanal opzebauen, éier de Poopst eppes Skandaléises oder politesch Motivéiertes soe soll”.
De Poopst selwer huet och virun de Risike vun der KI gewarnt, wärend Vatican News en Deepfake kritiséiert huet, an deem de Poopst angeeblech mat vill Luef iwwer de burkinesche Leader Ibrahim Traore geschwat hätt, deen 2022 duerch e Putsch un d’Muecht komm war (hei archivéiert).
D’AFP huet ausserdeem Clips, déi de Poopst, dee souwuel d’amerikanesch wéi och d’peruanesch Staatsbiergerschaft huet, weise soll, wéi hien den amerikanesche Vizepresident JD Vance an d’peruanesch Presidentin Dina Boluarte kritiséiert huet.
“Et gëtt eng echt Kris”, sot de Green. “Mir mussen e Wee fannen, fir z’erkennen, ob Saachen echt oder gefälscht sinn.”
Dëse Faktencheck gouf vun RTL op Lëtzebuergesch iwwersat.
