Įsivaizduokite taip: esate darbe, lazeriu susitelkę į griežtą terminą, kai jums skambina, atrodo, jūsų mamos telefono numeris. Balsas kitame gale neabejotinai jos, ramus ir mylintis, bet su neįprasta skubos užuomina. Ji pasakoja, kad atostogaudama Paryžiuje susidūrė su rimtomis bėdomis ir jai nedelsiant reikia jūsų finansinės pagalbos, kad sutvarkytų reikalus. Jūs žinote, kad ji yra Paryžiuje, o jos pateikta informacija iki viešbučio pavadinimo daro skambutį dar įtikinamesnį. Nieko negalvojęs pervedate pinigus, kad vėliau sužinotumėte, kad jūsų mama niekada neskambino; tai buvo pažangi AI sistema, puikiai imituojanti jos balsą ir sukūrusi išsamų scenarijų. Šiurpuliukai perbėga per stuburą, kai supranti, kas ką tik nutiko.
Šis scenarijus, kadaise buvęs gryna mokslinė fantastika, dabar yra nauja realybė. AI technologijų, tokių kaip didelių kalbų modeliai (LLM), aušra atnešė neįtikėtiną pažangą. Tačiau kyla didelė grėsmė: dirbtinio intelekto sukčiai. Sudėtingų sukčių, kurias skatina dirbtinis intelektas, potencialas yra visiškai nauja grėsmė technologijų pažangos horizonte. Nors telefoniniai sukčiai kelia susirūpinimą nuo pat telefono išradimo, platus didelių kalbų modelių (LLM) integravimas į kiekvieną skaitmeninės komunikacijos aspektą labai padidino statymą. Atsižvelgdami į AI potencialą, labai svarbu sustiprinti savo apsaugą nuo šių vis sudėtingesnių grėsmių.
Nusikaltėliai jau daugelį metų bandė apgauti nieko neįtariančius asmenis, kad jie pervestų pinigus ar atskleistų neskelbtiną informaciją, tačiau, nepaisant telefoninių sukčių paplitimo, daugelis šių sukčiavimo atvejų yra gana nesudėtingi, pagrįsti scenarijaus skaitymo operatoriais. Tačiau net ir esant šiam apribojimui, telefoniniai sukčiai ir toliau yra pelninga nusikalstama veikla.
JAV federalinės prekybos komisijos duomenimis, vien 2022 m. amerikiečiai dėl sukčiavimo prarado daugiau nei 8,8 mlrd. . Kas atsitinka, kai jie vystosi?
Atsiradus kelioms pagrindinėms technologijoms, telefoninių aferų aplinka yra pasirengusi dramatiškam pokyčiui:
Didelių kalbų modeliai (LLM)
Šios AI sistemos gali generuoti į žmogų panašų tekstą ir užmegzti natūralius pokalbius. Pritaikius sukčiavimui, LLM gali sukurti labai įtikinamus ir prisitaikančius scenarijus, todėl potencialioms aukoms bus daug sunkiau nustatyti sukčiavimą.
Retrieval-Augmented Generation (RAG)
Ši technologija leidžia LLM sistemoms realiuoju laiku pasiekti ir panaudoti didžiulį informacijos kiekį. Sukčiai gali sukurti asmens profilį remdamiesi viešai prieinama informacija, pvz., socialinėmis paskyromis. Jie taip pat gali naudoti socialinės inžinerijos metodus savo draugams ir šeimos nariams, kad surinktų gilesnę informaciją. Tai suteiks jiems prieigą prie informacijos, tokios kaip tikslo tapatybė, darbo informacija ar net naujausia veikla. Tada jie gali naudoti RAG, kad pateiktų LLM reikalingą kontekstą, todėl jų metodai atrodo neįtikėtinai individualizuoti ir teisėti.
Sintetinio garso generavimas
Tokios platformos kaip „Resemble AI“ ir „Lyrebird“ pirmauja kuriant itin tikroviškus AI sukurtus balsus. Šios technologijos gali sukurti suasmenintą, į žmogų panašų garsą, kuris gali būti naudojamas įvairiose programose – nuo virtualių asistentų iki automatizuoto klientų aptarnavimo ir turinio kūrimo. Tokios įmonės kaip „ElevenLabs“ dar labiau plečia ribas, leisdamos vartotojams kurti sintetinius balsus, kurie gali glaudžiai atkartoti jų pačių balsus, sudarant sąlygas naujam personalizavimo lygiui ir įsitraukimui į skaitmeninę sąveiką.
Sintetinių vaizdo įrašų generavimas
Tokios įmonės kaip „Synthesia“ jau demonstruoja potencialą kurti tikrovišką vaizdo turinį su AI sukurtais avatarais. Ateinančiais metais ši technologija leis sukčiams apsimesti draugais ar šeimos veikėjais arba sukurti visiškai fiktyvias asmenybes vaizdo skambučiams, suteikdama anksčiau neįmanomą fizinio tikroviškumo lygį sukčiai.
AI lūpų sinchronizavimas
Pradedantieji, tokie kaip „Sync Labs“, kuria pažangią lūpų sinchronizavimo technologiją, kuri gali suderinti sukurtą garsą su vaizdo medžiaga. Tai galėtų būti panaudota kuriant labai įtikinamus padirbtus vaizdo įrašus apie istorines asmenybes, politikus, įžymybes ir praktiškai visus kitus, dar labiau ištrinant ribą tarp tikrovės ir apgaulės.
Šių technologijų derinys sukuria gana susirūpinimą keliantį vaizdą. Įsivaizduokite sukčių skambutį, kai AI gali pritaikyti savo pokalbį realiuoju laiku, apsiginklavęs asmenine informacija apie taikinį, ir netgi pereiti prie vaizdo skambučio su iš pažiūros tikru asmeniu, kurio lūpos juda tobulai sinchroniškai su generuojamu balsu. Apgaulės galimybė yra tikrai didžiulė.
Kadangi šios dirbtinio intelekto aferos tampa vis sudėtingesnės, tapatybės ir autentiškumo tikrinimo metodai turės lenktyniauti su AI pažanga. Kad internetinis pasaulis būtų saugus, reikės reguliavimo ir technologijų pažangos.
Reguliavimo patobulinimai
Griežtesni duomenų privatumo įstatymai: Įgyvendinus griežtesnius duomenų privatumo įstatymus, būtų apribotas asmeninės informacijos, kuria gali pasinaudoti sukčiai, kiekis. Šie įstatymai galėtų apimti griežtesnius duomenų rinkimo reikalavimus, patobulintus vartotojų sutikimo protokolus ir griežtesnes bausmes už duomenų pažeidimus.
Privatus debesis galingiausiems AI modeliams: reglamentai galėtų įpareigoti galingiausius AI modelius priglobti privačiose, saugiose debesų infrastruktūrose, o ne padaryti atvirai prieinamus. Tai apribotų prieigą prie pažangiausių technologijų, todėl piktybiniams veikėjams būtų sunkiau jas panaudoti sukčiavimui. (pvz.: https://security.apple.com/blog/private-cloud-compute/)
Tarptautinis bendradarbiavimas taikant AI reglamentus: atsižvelgiant į pasaulinį AI technologijos pobūdį, tarptautinis bendradarbiavimas reguliavimo standartų srityje galėtų būti naudingas. Įsteigus pasaulinę instituciją, atsakingą už tarptautinių dirbtinio intelekto taisyklių kūrimą ir vykdymą, būtų galima padėti kovoti su tarpvalstybiniais su AI susijusiais nusikaltimais.
Visuomenės informavimo kampanijos: vyriausybės ir reguliavimo institucijos turėtų investuoti į visuomenės informavimo kampanijas, siekdamos šviesti piliečius apie galimą dirbtinio intelekto sukčių riziką ir kaip apsisaugoti. Sąmoningumas yra svarbus pirmas žingsnis įgalinant asmenis ir organizacijas įgyvendinti būtinas saugumo priemones.
Dabartinių dirbtinio intelekto taisyklių nepakanka, kad būtų išvengta sukčiavimo, o ateities reguliavimo iššūkius apsunkina daugelio galingų technologijų atvirojo kodo pobūdis. Šis atvirumas leidžia kiekvienam pasiekti ir modifikuoti šias technologijas savo tikslams. Dėl to kartu su griežtesniais reglamentais reikia pažangos ir saugumo technologijų srityje.
Sintetinių duomenų aptikimas
Sintetinis garso aptikimas: kaip sukčiai naudoja dirbtinį intelektą, taip pat turi būti naudojama mūsų apsauga. Tokios įmonės kaip Pindrop kuria dirbtinio intelekto sistemas, kurios gali aptikti sintetinį garsą realiuoju laiku telefono skambučių metu. Jų technologija analizuoja daugiau nei 1 300 skambučio garso funkcijų, kad nustatytų, ar jis sklinda iš tikro asmens, ar iš sudėtingos AI sistemos.
Sintetinis vaizdo aptikimas: sintetinis vaizdo aptikimas: kaip AI gali manipuliuoti garsu, taip pat vaizdo įrašu, keldamas didelę grėsmę giliųjų klastočių ir kito sintetinio vaizdo turinio pavidalu. Tokios įmonės kaip „Deepware“ pirmauja kurdamos sintetinio vaizdo aptikimo technologijas. Deepware platforma naudoja pažangius mašininio mokymosi algoritmus, kad analizuotų subtilius vaizdo duomenų neatitikimus, tokius kaip nenatūralūs judesiai, nereguliarus apšvietimas ir pikselių anomalijas, kurios dažnai būna AI sukurtame turinyje. Nustačiusi šiuos neatitikimus, „Deepware“ technologija gali nustatyti, ar vaizdo įrašas yra tikras, ar juo buvo manipuliuojama, taip padedant apsaugoti asmenis ir organizacijas nuo apgaulės dėl sudėtingų vaizdo įrašų sukčiavimo ir dezinformacijos kampanijų.
Nustatykite autentifikavimo pažangą
Kuriami įvairūs naudotojo tapatybės patvirtinimo būdai, o vienas ar keli iš jų ateinančiais metais taps įprasti, kad internetas būtų saugesnis.
Dviejų etapų autentifikavimas nuotoliniam pokalbiui: dviejų veiksnių autentifikavimas (2FA) išlieka pagrindine saugaus ryšio sudedamąja dalimi. Taikant šį metodą, kiekvienas telefono skambutis ar el. laiškas suaktyvintų tekstinį pranešimą su unikaliu patvirtinimo kodu, panašiu į dabartinį el. pašto registravimą. Nors 2FA yra veiksminga pagrindiniam autentifikavimui, jo apribojimai reiškia, kad juo negalima pasikliauti visuose kontekstuose, todėl reikia sukurti pažangesnius metodus, siekiant užtikrinti visapusišką interneto saugumą, kuris gali veikti fone.
Elgsena pagrįstas kelių veiksnių autentifikavimas: ne tik tapatybės patvirtinimas skambučio pradžioje, bet ir būsimos saugos sistemos gali nuolat analizuoti elgesį sąveikos metu. Tokios įmonės kaip „BioCatch“ naudoja elgesio biometrinius duomenis, kad sukurtų vartotojų profilius pagal tai, kaip asmenys sąveikauja su savo įrenginiais. Ši technologija gali aptikti elgesio anomalijas, kurios gali reikšti, kad sukčiai naudoja pavogtą informaciją, net jei jie praėjo pirminius autentifikavimo patikrinimus.
Biometrinis autentifikavimas: tokios įmonės kaip „Onfido“ yra biometrinio tikrinimo technologijos priešakyje, siūlydamos dirbtinio intelekto pagrindu veikiančius tapatybės tikrinimo įrankius, kurie nustato sudėtingus klastotes ir kitas tapatybės sukčiavimo formas. Jų sistema naudoja dokumentų tikrinimo ir biometrinės analizės derinį, siekdama užtikrinti, kad kitame pokalbio ar vaizdo pokalbio gale esantis asmuo tikrai būtų tas, koks jis teigia esąs.
Pažangiomis žiniomis pagrįstas autentifikavimas: ne tik paprasti saugos klausimai, bet ir būsimos autentifikavimo sistemos gali apimti dinamiškus, dirbtinio intelekto sugeneruotus klausimus, pagrįstus vartotojo skaitmeniniu pėdsaku ir naujausia veikla. Pavyzdžiui, įmonė „Prove“, kuri specializuojasi į telefoną orientuotą tapatybę, kuria sprendimus, kurie naudoja telefono intelektą ir elgsenos analizę tapatybei patikrinti. Jų technologija gali analizuoti modelius, kaip asmuo naudoja savo įrenginį, kad sukurtų unikalų „tapatybės parašą“, kurį sukčiams daug sunkiau atkartoti.
„Blockchain“ pagrįstas tapatybės patvirtinimo autentifikavimas: „Blockchain“ technologija siūlo decentralizuotą ir apsaugotą nuo klastojimo tapatybės patvirtinimo metodą. Tokios įmonės kaip „Civic“ yra novatoriškos „blockchain“ pagrindu veikiančios tapatybės tikrinimo sistemos, leidžiančios vartotojams valdyti savo asmeninę informaciją ir užtikrinti saugų autentifikavimą. Šios sistemos sukuria patikrinamą, nekintamą asmens tapatybės įrašą, puikiai tinkantį didelės rizikos sandoriams valdyti.
LLM, RAG, sintetinio garso generavimo, sintetinių vaizdo įrašų generavimo ir lūpų sinchronizavimo technologijų konvergencija yra šiek tiek dviašmenis kardas. Nors šios pažangos turi didžiulį teigiamų pritaikymų potencialą, jie taip pat kelia didelę riziką, kai ginklus naudoja sukčiai.
Šios besitęsiančios ginklavimosi varžybos tarp saugumo ekspertų ir kibernetinių nusikaltėlių pabrėžia nuolatinių naujovių ir budrumo poreikį skaitmeninio saugumo srityje. Galime stengtis panaudoti šių galingų įrankių naudą ir sumažinti jų galimą žalą tik pripažindami šią riziką ir jai ruošdamiesi.
Išsamus reglamentavimas, švietimas apie šias naujas sukčiavimo formas, investicijos į pažangiausias saugumo priemones ir, ko gero, svarbiausia, sveiko skepticizmo dozė iš kiekvienod kiekvienas iš mūsų, bendraujantis su nežinomais subjektais internete ar telefonu, bus labai svarbus naršant šiame naujame kraštovaizdyje.
