ZDNET’s Schlëssel Takeaways
- Wéi einfach kënnt Dir eng Stëmm aus ëffentleche Quellen klonen? Ech hunn et op den Test gesat.
- AI Tools hunn et einfach gemaach, an Dir braucht eng méi kleng Probe wéi Dir denkt.
- Hei ass wéi Dir Iech vu Stëmmbaséierte Scams geschützt bleift.
“Hallo, et sinn ech. Ech sinn um Telefon vun engem Friemen, mäin ass amgaang ze stierwen.”
Wann Dir dëst op der Linn héieren hutt, wier Dir onwahrscheinlech opzehänken, an dat ass wat Cyberkrimineller déi Telefon- a Stëmmbaséiert Scams lafen, zielen op.
Mir hunn all Versioune vun dësem iwwer Text- a Messagerie-Apps gesinn: e Plädoyer fir Hëllef, eng Geschicht iwwer e beléiften an engem Accident, an eng dréngend Ufro fir Suen fir Spidolsrechnungen ze decken. Dës Scams funktionnéieren well se Panik kreéieren, a Panik funktionnéiert am Beschten wa mir gleewen datt een deen mir këmmeren an Ierger ass.
Och: Chrome warnt Iech elo iwwer verdächteg Websäiten – wéi de Google säin neie Betrügerschutz aktivéiert
Bis viru kuerzem war d’Imitatioun vun engem Familljemember seng aktuell Stëmm schwéier. En iwwerzeegend Klon huet eemol vill Quellmaterial a spezialiséiert Tools gebraucht, awer dat ass net méi de Fall. Bëlleg, gratis, einfach ze benotzen AI Stëmmklonen Tools sinn elo wäit verfügbar, a vill vun eis hu scho de Matière Audiomaterial geliwwert andeems se Videoe vun eis selwer online gepost hunn.
Wéi ech AI benotzt hunn fir meng Stëmm ze klonen
1. Fannt Quellmaterial
Fir dëst Experiment hunn ech Stëmmproben opgeholl an Opzeechnunge vu menge Interviewen als Cybersecurity Host op Spotify erofgelueden. Wann ech meng eege Proben erstallt hunn, anstatt rau Audiodateien an all AI Modell eropzelueden, hunn ech se bewosst an .WAV Dateien kompriméiert. D’Begrënnung ass datt rau Audiodateien vill méi Informatioun enthalen fir en Audio Sampler ze analyséieren wéi .MP3 oder .WAV Dateien, déi kompriméiert sinn fir ze deelen, fir Dateigréissten ze reduzéieren a fir op sozialen Medienplattformen ze benotzen.
Och: Mat rouege Roboter ëmgoen? Dëst ass firwat Scam Uruffer roueg bleiwen
Anstatt mech selwer e Virdeel ze ginn, wollt ech Audio Echantillon vun enger ähnlecher Qualitéit benotzen wéi déi, déi Dir aus dem duerchschnëttleche Facebook, Instagram oder TikTok Inhalt ripe kéint, dee vu Betrügeristen exploitéiert ka ginn. Wann iergendeen probéiert Iech ze imitéieren, dat sinn d’Quellen déi se als éischt besichen fir Proben vun Ärer Stëmm ze fannen.
2. Erstellt de Skript
Wa mir AI fir den Audio benotzen, loosst eis och AI fir de Scammer Skript benotzen. Ech hunn de Claude opgefuerdert e kuerze Skript fir en Telefon-baséiert Betrug z’entwéckelen, d’Urgence, Panik an e puer bewosst Pausen fir e Gespréichseffekt ze betount. Hei ass de Skript deen ech mat e puer Ufroen entwéckelt hunn, eng Aufgab déi net méi laang wéi dräi Minutten gedauert huet.
Och: Ären iPhone krut just e verstoppte Anti-Scam Upgrade am iOS 27: Wéi aktivéiert et
Schrëft
“Hallo … et sinn ech. [pause 1.5s] Entschëllegt, ech weess, datt dëst aus der blo ass. [pause 1s] Ech sinn um Telefon vun engem Friemen, mäin ass amgaang ze stierwen.
[pause 2s]
“Ech hu meng Täsch geholl … [pause 1.5s] Portemonnaie, Kaarte, alles. [pause 1s] Ech stinn op der Gare an de leschten Zuch heem geet a ronn véierzeg Minutten.”
[pause 2s]
“Ech kann net a meng Banke kommen ouni mäin Telefon, an ech wëll keng aner Suergen maachen. [pause 1s] Sot w.e.g. näischt, ech fille mech sou domm.”
[pause 2.5s]
“Ech brauch just genuch fir en Ticket a fir mech den Owend duerchzekommen. [pause 1s] Ech bezuelen Iech éischt Saach zréck, ech verspriechen. [pause 1.5s] Kënnt Dir mir hëllefen?”
[pause 3s, leave space for a response]
“Merci, ech wäert hinnen elo d’Detailer schécken … [pause 1s] Ech muss goen, d’Batterie geet.”
3. Benotzt gratis, ëffentlech Audio Klonen Tools
Wärend e puer Scam Kënschtler sech fir Premium Servicer kënnen umellen, hunn ech gewielt fir gratis Optiounen wärend mengem Testen ze halen, déi Standalone Servicer an Open-Source Tools enthalen. Ech hunn déiselwecht Audioprobe iwwer all Plattform benotzt, awer op zwou Plattformen hunn ech Audioproben do an dann opgeholl fir e Stëmmklon ze kreéieren.
Meng éischt Arrêt war ElevenLabs.io. Et gëtt e gratis Tier, also hunn ech meng Proben eropgelueden an d’Resultat nogelauschtert.
Och: Eng Low-Tech Léisung aus der Vergaangenheet kann Är bescht Verteidegung géint AI Deepfakes sinn
Als AI-baséiert Stëmmkloner ass ElevenLabs.io Top-Tier. Ech war schockéiert wéi propper den Audio war, awer leider (oder glécklecherweis?), war et net fir mäi zweifelhaften Zweck passend: Et war ze propper, ze professionnell, an huet mech méi wéi en Neiegkeetsanker kléngt wéi eng erschreckt Fra déi Hëllef gesicht huet.
Ech hunn mech dunn fir alternativ Plattformen ugemellt, dorënner Kikivoice.ai, Voicebox (mat Qwen TTS 1), SoundTools, Epidemic Sound, a voxcpm2.org.
D’Resultater variéiere wäit iwwer Plattformen. E puer Echantillon ware gutt genuch fir eng TikTok Reddit Geschicht Voiceover an näischt méi; anerer hunn mech kléngt wéi wann ech erstécken; anerer hunn eng “britesch” Stëmm benotzt, déi wéi eng héichgeheescht Karikatur geklongen huet; an anerer ware relativ iwwerzeegend, awer och komesch Pausen, schwéier Atmung an ongewéinlech Pitch Ännerungen.
Ee gemeinsame Fuedem war awer datt se all – mat Ausnam vun ElevenLabs – op iergendeng Manéier flaach waren an d’Emotioun gefeelt hunn, déi Dir braucht an engem Stëmmbaséierte Betrug.
Ech hunn dunn IndexTTS besicht, en Open-Source a gratis AI Stëmmkloner deen emotional Kontroll versprach huet. Et ass en exzellent Klonerinstrument dat meng Stëmm gutt mimikéiert huet, awer wann ech mäi Stëmmklon mat “traureg” an “angscht” Astellungen ugepasst hunn, huet et et zu engem komeschen atemberaubende, husky Geflüster ëmgewandelt, deen ech léiwer meng Redaktoren – loosst emol meng virgesinn Affer – ni héieren.
Nodeems ech mech vun der Verlegenheet erholl hunn dës Probe ze héieren, hunn ech d’Voicebox erëm besicht, wat Iech erlaabt wéi en AI Modell Dir fir Stëmmklonen benotze wëllt. Ech hu fir Chatterbox entscheet, a wärend et e bësse flaach war a keng emotional Kontrolloptiounen hat, huet et de nootste Klon geliwwert deen ech benotze konnt.
Wéi ech meng AI-gekloonte Stëmm getest hunn
Maacht d’Aufgab a frot duerno Verzeiung. Op d’mannst dat ass wat ech fir mäin Test gemaach hunn, an ech hunn dunn d’Zoustëmmung gefrot fir iwwer d’Resultater ze schwätzen, obwuel ech net recommandéieren oder plädéieren datselwecht ze maachen.
Ech gezielt fënnef Leit a mengem enke Krees, dorënner Familljememberen a Frënn. Nodeems ech meng Stëmm gekloont hunn, hunn ech dunn eng temporär Telefonsnummer benotzt fir jidderee vun hinnen ze ruffen, well dëst méi no mimics wat e Scammer géif maachen.
Vun de fënnef Testpersoune woussten véier direkt datt eppes falsch war an hunn den Uruff als gefälscht markéiert. Zwee hunn net gemierkt datt et geduecht wier ech ze sinn, an zwee soten et kléngt wéi ech, awer Hiweiser am Uruff suggeréiert datt eppes net richteg ass.
Och: Wéi Är Gespréicher mam ChatGPT, Gemini, Copilot oder Claude sou privat wéi méiglech ze halen
Een huet gegleeft et wier ech. Well si vun enger eelerer Generatioun war a liicht haart héieren, war et méi schwéier fir hir déi vertraute Hiweiser an enger Stëmm z’ënnerscheeden, déi een erkennbar an zouverlässeg mécht. (Dëst war net onbedéngt fair, ech weess, awer et war e Scam Szenario dat realistesch konnt ausspillen, an ech gouf séier verginn.)
Ech hunn dunn e Feedback iwwer de Klon-Scam gefrot, an déi gemeinsam Indikatoren, déi déi gefälscht Stëmm markéiert hunn, waren datt d’Stëmm ze flaach war; d’Intonatioun an de Rhythmus waren komesch; e puer Wierder goufen falsch ausgeschwat; an et war net meng üblech Telefonsnummer.
Wéi schützt Dir Iech virun Scams
Wann Dir Iech op dësem Punkt frot wéi vill Audio een brauch fir Är Stëmm ze klonen, ass d’Äntwert: Vill manner wéi Dir géift erwaarden.
Mat net méi wéi ongeféier 10 Sekonnen Audio, konnt ech e puer bal passabel Versioune vu mir selwer erstellen, a wa se déi meescht Leit no bei mir net narren, waren se net ze wäit ewech wat potenziell op engem Telefonsgespréich kéint funktionnéieren.
Vill vun eis sinn op déi automatiséiert Uriff a Bots begéint, déi eis Telefone ruffen, verspriechen eng nei Aarbechtsméiglechkeet oder Versécherungsausbezuelung, oder behaapten datt mir an IRS an IRS sinn. An déi meescht vun eis hunn dës Uriff bannent Sekonnen ofgeschnidden.
Och: Lauschtert no: Audio Deepfakes sinn elo de féierende AI Impersonatiounsscam
AI ass net an der Positioun fir dës Scams méi perséinlech oder iwwerzeegend ze maachen – op d’mannst, nach net, well Klonen nach ëmmer flaach kléngen an de mënschleche Faktor feelen. Awer de séieren Tempo an d’Evolutioun vun AI Modeller haut, denken ech net datt et laang wäert daueren ier AI Modeller mëssbraucht kënne ginn fir emotional, iwwerzeegend, personaliséiert Stëmm Scams ze kreéieren (och bekannt als Vishing) just andeems Dir Audio aus engem stray Social Media Video oder Spotify Streck rippt.
1. Wësst Är sozial Medien Risiken
AI kann och Är Stëmm klone vun engem TikTok, Facebook oder Instagram Video. Kocial Medienplattformen sinn en Hotbed vu Quellmaterial, dorënner Videoe méi wéi eng Minutt laang, déi vun Ugräifer benotzt kënne ginn fir genuch Proben ze sammelen fir Audio ze iwwerzeegen. Wat méi Stëmmproben en Ugräifer huet, wat besser ass, well en AI Modell kann léieren iwwerzeegend ze kléngen – en Akzent mimikéieren, speziell Wierder a Sätze, Béiungen, an den natierleche Rhythmus vun enger Stëmm.
Och: Dësen einfachen ChatGPT Trick hëlleft Iech Scams z’entdecken ier Dir klickt oder reagéiert
Wann Dir schonn op Plattformen wéi TikTok sidd an dacks Videoe vu Iech selwer schwätzt, da gi scho vill Proben vun Ärer Stëmm dobaussen. Dir kënnt e méi héicht Risiko fir AI Audio Klonen wéi déi duerchschnëttlech Persoun (op d’mannst an Zukunft), also bewosst et.
2. Sich no komeschen Musteren an Ried
Och wann et méi schwéier gëtt tëscht echten a gefälschte Audio z’ënnerscheeden, lauschtert no komesch Mustere a Ried, sou wéi ongewéinlech Wierder oder Sätze déi Dir net mat der Persoun associéiert déi um aneren Enn vum Telefon ass, falsch Grammatik (ausserhalb vun deem wat Dir normalerweis erwaart), komesch Pausen oder abrupt Enn vun Akzenter, a Sätz.
Och: Fake Kalennerinvitatiounen kënnen Äre System infizéieren, a si klammen – wéi Dir Iech selwer schützt
Aner Indicateuren enthalen eng onbekannt Zuel, Hannergrondgeräischer, déi Dir normalerweis net erwaart, an e Mangel u Gespréichsstécker, déi mir normalerweis an engem Mënsch-zu-Mënsch Gespréich erliewen, sou wéi héiflech kleng Diskussioun oder Froen iwwer perséinlech Detailer nëmmen e richtegen Uruffer géif wëssen.
Wann Dir de Verdacht datt d’Entitéit op der Linn net mënschlech ass, oder wa se Sue oder Bezuelungen froen, hänkt op. Wann se behaapten datt si Famill, Frënn oder e Kolleg sinn, rufft se zréck op d’Nummer déi Dir fir si hutt. Wann et en Uruff aus dem Blo war, war et wahrscheinlech e Bedruch.
3. Rapport all Problemer
Maacht et bekannt. Wann Dir mengt datt Dir Affer vun engem Bedruch gefall sidd, wou iergendeen Är Stëmm gekloont huet an Iech imitéiert, ass den éischte Schrëtt Frënn, Famill a potenziell Är Kollegen ze soen. Rapport d’Fro un d’Haftpflicht an assoziéiert Bedruchorganisatiounen, mellt all Posts oder Medien online, déi Dir mat Ärer Stëmm oder Identitéit fonnt hutt, a betruecht d’Serviceprovider z’erreechen fir se vum Tëschefall bewosst ze maachen.
E puer vun de beschten Rotschléi, déi mir Iech awer kënne ginn, ass e Passwuert fir Gespréicher ze kreéieren déi zu finanziellen Déifst kënne féieren.
4. Setzt e Passwuert ASAP
AI Apps, Videoen, Posts an Onlinematerial schéngen all Mount méi iwwerzeegend ze ginn. Et ass net nëmme fir léif Kazvideoen – Regierungen generéieren hiren eegene Inhalt fir Propaganda, Bot Farms verbreeden politesch Messagerie an adaptéieren un Gespréicher baséiert op AI Uweisungen, TikTok ass voller AI generéiert Anime Geschichten a Filmer, an Cyberattacker benotzen AI fir traditionell Cyberattacken ze streamline an automatiséieren.
Et kann net laang daueren ier Audio a visuell Phishing Scams d’Norm sinn, anstatt d’Ausnam.
Wann e Scammer genuch determinéiert ass an e puer Echantillon vun Ärem Audio geséchert huet, kann dat genuch sinn fir Är Stëmm ze klonen an Iech un Serviceprovider, Frënn oder Famill ze imitéieren.
Och: Dem 1Password seng Präiserhéijung huet mech no Alternativen gesicht – hei ass wat ech gewielt hunn
Wann Dir Iech besuergt sidd Affer vun dëser Aart vu Betrüger elo oder an der Zukunft ze ginn, ass déi einfachst Optioun eng iwwer déi mir op ZDNET vill schwätzen – e Passwuert astellen.
Mir schwätzen awer net vu komplexe Kombinatioune vu Buschtawen, Zuelen a Symboler. Amplaz, averstanen op e Familljestil Passwuert tëscht vertrauenswürdege Kontakter gedeelt kéint déi einfachst Optioun sinn. Wann e Gespréich Suen, Iwwerweisungen oder perséinlech Informatioune betrëfft, behandelt et als verdächteg, ausser wann d’Passwuert benotzt gëtt. Mir hunn dat schonn a menger Famill ageriicht.
Dës Iddi kann och fir Firmen zoutreffen: Wann Dir en Déngschtleeschter hutt, deen Iech Passwuertschutz erlaabt fir Gespréicher déi net perséinlech gemaach goufen, frot et fir et op Äre Kont ze addéieren. Vläicht ass dëst e Konzept, Organisatiounen sollen och haut adoptéieren, mat entweder zwee-Schrëtt Verifizéierung erfuerderlech fir Rechnungen a Akeef z’accordéieren oder e Passwuert dat dacks rotéiert.
Gesinn voll Bio