Egy friss vizsgálat kiderítette, hogy mesterséges intelligenciával készült deepfake videók lepik el a közösségi média felületeit, amelyekben orvosok és egyetemi szakértők arcát és hangját hamisítják meg, hogy kétes egészségügyi állításokat és étrend-kiegészítőket reklámozzanak. A brit Full Fact tényellenőrző szervezet több olyan fiókot is azonosított, amelyek AI-generált tartalmakkal befolyásolják és irányítják a felhasználókat az amerikai Wellness Nest nevű étrend-kiegészítő cég termékeihez.
Szakértőket másolnak le a tudtuk nélkül
Az egyik érintett David Taylor-Robinson professzor, a Liverpooli Egyetem gyermek-egészségügyi szakorvosa, akinek egy valós konferenciaelőadását manipulálták át. A videóban úgy tűnt, mintha egy „thermometer leg” nevű ál-tünetről beszélne – ami állítólag a menopauza egyik jele, amely során az érintett nők éjjel annyira túlmelegszenek, hogy egyik lábukat kilógatják a takaró alól. A professzor elmondta a Full Factnek:
„Egy barátom felesége majdnem elhitte, egészen addig, amíg a lányuk rá nem szólt, hogy ez nyilvánvalóan kamuvideó. Az ismerőseim közül többen bedőlhettek volna, és ez aggasztó.”
A manipulált videó azt sugallta, hogy Taylor-Robinson professzor egy „természetes probiotikumot” ajánl menopauzás nőknek – olyan növényi kivonatokkal, mint a kurkuma, a feketebodza, a DIM vagy a moringa. A videó azt állította: „mélyebb alvást és kevesebb hőhullámot” eredményez.
TikTok: először nem látták a problémát
Az egyetem kommunikációs csapata jelezte a hamis tartalmakat a TikToknak, de a platform először azt válaszolta, hogy nem talált szabálysértést. Később, miután a professzor és gyermekei is bejelentették a videókat, a TikTok már úgy ítélte meg, hogy megsértik az irányelveket – de csak a láthatóságukat korlátozta. A tartalmak teljes eltávolítására még ettől is később került sor, miután a TikTok moderációs hibát ismert be.
A deepfake videó addigra már:
365 000 megtekintést,
7 691 kedvelést,
459 kommentet,
és 2 878 mentést gyűjtött.
A @better_healthy_life nevű fiók nemcsak Taylor-Robinson professzorról készített hamis videókat, hanem Natalia Zubarevich orosz közgazdászról, Dr. Aseem Malhotra brit kardiológusról, és Duncan Selbie-ről, a Public Health England korábbi vezetőjéről is.
Selbie elmondta:
„Meglepett, amit láttam. És ez egyáltalán nem vicces, mert az emberek figyelnek ezekre a tartalmakra.”
Termékajánlóval végződő kamuvideók
A videók végén rendszerint a Wellness Nest termékeit ajánlják, köztük különféle probiotikumokat és Himalája-shilajitot – olyan készítményeket, amelyek nincsenek is felsorolva a cég hivatalos oldalán.
Korábban már előkerültek deepfake felvételek, amelyekben a nemrég elhunyt Dr. Michael Mosley és Dr. Idrees Mughal látszott úgy, mintha a cég termékeit reklámoznák.
A Wellness Nest tagadta az érintettséget, és a Full Factnek azt mondta, hogy az ilyen AI-tartalmak nem kapcsolódnak hozzájuk.
Egyre veszélyesebb a deepfake-járvány
Az eset rávilágít a növekvő problémára: a mesterséges intelligenciával készített hamis videók egyre valósághűbbek, és komoly veszélyt jelentenek a nyilvánosságra, különösen egészségügyi tanácsok esetén. A megtévesztő tartalmak gyorsan terjednek, és emberek százezreihez juthatnak el, mielőtt a platformok egyáltalán reagálnának. Forrás