Dirbtiniam intelektui (AI) reikia duomenų ir daug jo. Renka reikiamą informaciją ne visada yra iššūkis šiandieninėje aplinkoje, nes yra daug viešų duomenų rinkinių ir tiek daug duomenų, gaunamų kiekvieną dieną. Tačiau tai užtikrinti yra kitas dalykas.
Didžiulis AI mokymo duomenų rinkinių dydis ir AI modelių poveikis skatina kibernetinių nusikaltėlių dėmesį. Didėjant pasitikėjimui AI, šios technologijos plėtojančios komandos turėtų būti atsargios, kad užtikrintų, jog jie saugo savo mokymo duomenis.
Kodėl AI mokymo duomenims reikia geresnio saugumo
Duomenys, kuriuos naudojate mokydami AI modelį, gali atspindėti realaus pasaulio žmones, verslą ar renginius. Iš esmės jūs galite valdyti nemažą kiekį asmeniškai identifikuojamos informacijos (PII), kuri, jei būtų atskleista, sukeltų didelių privatumo pažeidimų. 2023 m. „Microsoft“ patyrė tokį įvykį, netyčia atskleisdamas 38 privačios informacijos terabaitai AI tyrimų projekto metu.
AI mokymo duomenų rinkiniai taip pat gali būti pažeidžiami dėl kenksmingesnių prieštaringų atakų. Kibernetiniai nusikaltėliai gali pakeisti mašininio mokymosi modelio patikimumą, manipuliuodami jo mokymo duomenimis, jei jie gali naudotis juo. Tai atakos tipas, žinomas kaip apsinuodijimo duomenimis, ir AI kūrėjai gali nepastebėti efektų, kol dar nevėlu.
Tyrimai rodo, kad apsinuodijimas tik 0,001% duomenų rinkinio Pakanka sugadinti AI modelį. Neturėdamas tinkamos apsaugos, toks išpuolis gali sukelti didelių padarinių, kai modelis mato realaus pasaulio įgyvendinimą. Pavyzdžiui, sugadintas savarankiško vairavimo algoritmas gali nepastebėti pėsčiųjų. Kaip alternatyva, atnaujinimo skenavimo AI įrankis gali duoti šališkų rezultatų.
Esant ne tokioms rimtoms aplinkybėms, užpuolikai galėjo pavogti patentuotą informaciją iš mokymo duomenų rinkinio, atlikdami pramoninį šnipinėjimą. Jie taip pat gali užrakinti įgaliotus vartotojus iš duomenų bazės ir reikalauti išpirkos.
Kai AI tampa vis svarbesnė gyvybei ir verslui, kibernetiniai nusikaltėliai turi daugiau gauti daugiau nei mokymo duomenų bazės. Visa ši rizika savo ruožtu papildomai jaudinasi.
5 veiksmai, skirti apsaugoti AI mokymo duomenis
Atsižvelgdami į šias grėsmes, mokydami AI modelius rimtai žiūrėkite į saugumą. Čia yra penki žingsniai, kurių reikia atlikti siekiant apsaugoti AI mokymo duomenis.
1. Sumažinkite neskelbtiną informaciją mokymo duomenų rinkiniuose
Viena iš svarbiausių priemonių yra pašalinti neskelbtinų detalių kiekį jūsų mokymo duomenų rinkinyje. Kuo mažiau PII ar kita vertinga informacija yra jūsų duomenų bazėje, tuo mažiau tikslo jis yra įsilaužėliams. Pažeidimas taip pat bus mažiau paveiktas, jei tai įvyks šiuose scenarijuose.
PG modeliams dažnai nereikia naudoti realaus pasaulio informacijos treniruočių etape. Sintetiniai duomenys yra vertinga alternatyva. Modeliai, mokomi sintetinių duomenų lygiai taip pat tikslesnis nei kiti, todėl jums nereikia jaudintis dėl veiklos problemų. Tiesiog įsitikinkite, kad sugeneruotas duomenų rinkinys primena ir veikia kaip realaus pasaulio duomenys.
Arba galite šveisti esamus neskelbtinų detalių, tokių kaip žmonių vardai, adresai ir finansinė informacija, duomenų rinkinius. Kai jūsų modeliui reikalingi tokie veiksniai, apsvarstykite galimybę juos pakeisti „Stand-in“ manekeno duomenimis arba apsikeiskite tarp įrašų.
2. Apribokite prieigą prie mokymo duomenų
Sudarę mokymo duomenų rinkinį, turite apriboti prieigą prie jo. Laikykitės mažiausio privilegijos principo, kuriame teigiama, kad bet kuris vartotojas ar programa turėtų sugebėti pasiekti tai, kas būtina tinkamai atlikti savo darbą. Visiems, nedalyvaujantiems mokymo procese, nereikia matyti ar sąveikauti su duomenų baze.
Atminkite, kad privilegijų apribojimai yra veiksmingi tik tuo atveju, jei taip pat įgyvendinate patikimą būdą patikrinti vartotojus. Vartotojo vardo ir slaptažodžio nepakanka. Daugiafaktorinis autentifikavimas (MFA) yra būtinas, nes jis sustoja 80–90% visų išpuolių prieš sąskaitas, bet ne visi UR UMA metodai yra vienodi. Teksto ir programų MFA paprastai yra saugesnė nei el. Pašto alternatyvos.
Būtinai apribokite programinę įrangą ir įrenginius, o ne tik vartotojus. Vieninteliai įrankiai, turintys prieigą prie mokymo duomenų bazės, turėtų būti pats AI modelis ir visos programos, kurias naudojate šioms įžvalgoms valdyti mokymo metu.
3. Užšifruokite ir atsarginę duomenų atsarginę kopiją
Šifravimas yra dar viena esminė apsauginė priemonė. Nors ne visi mašinų mokymosi algoritmai gali aktyviai mokyti užšifruotus duomenis, tačiau analizės metu galite juos užšifruoti ir iššifruoti. Tada jūs galite tai iš naujo pašalinti, kai baigsite. Arba pažvelkite į modelio struktūras, kurios gali analizuoti informaciją užšifruojant.
Svarbu išlaikyti savo mokymo duomenų atsargines kopijas, jei kas nors su tuo atsitiks. Atsarginės kopijos turėtų būti kitoje vietoje nei pirminė kopija. Priklausomai nuo to, koks svarbus jūsų duomenų rinkinys yra kritinis, jums gali tekti išlaikyti vieną neprisijungus ir kitą debesyje. Nepamirškite šifruoti ir visų atsarginių kopijų.
Kalbant apie šifravimą, atidžiai rinkitės savo metodą. Aukštesni standartai visada yra geresni, tačiau galbūt norėsite apsvarstyti kvantui atsparius kriptografijos algoritmus, nes pakyla kvantinių atakų grėsmė.
4. Monitoriaus prieiga ir naudojimas
Net jei atliksite šiuos kitus veiksmus, kibernetiniai nusikaltėliai gali pereiti prie jūsų gynybos. Todėl naudodamiesi AI mokymo duomenimis, turite nuolat stebėti prieigos ir naudojimo modelius.
Tikėtina, kad čia būtinas automatinis stebėjimo sprendimas, nes nedaugelis organizacijų turi personalo lygius, kad visą parą stebėtų įtartiną veiklą. Automatizavimas taip pat yra daug greitesnis veikiant, kai įvyksta kažkas neįprasto, o tai lemia 2,22 USD mažesnės duomenų pažeidimo išlaidos Vidutiniškai nuo greitesnio, efektyvesnių atsakymų.
Įrašykite kiekvieną kartą, kai kas nors ar kažkas pasiekia duomenų rinkinį, užklausos, kad jis galėtų jį pasiekti, keičia ar kitaip su ja sąveikauja. Be to, kad stebi galimus šios veiklos pažeidimus, reguliariai peržiūrėkite didesnes tendencijas. Įgalioti vartotojų elgesys laikui bėgant gali pasikeisti, todėl, jei naudojate tokią sistemą, gali reikėti pakeisti prieigos prie leidimus ar elgesio biometrinius duomenis.
5. Reguliariai iš naujo vertina riziką
Panašiai AI Dev komandos turi suvokti, kad kibernetinis saugumas yra nuolatinis procesas, o ne vienkartinis pataisymas. Atakos metodai greitai vystosi – kai kurie pažeidžiamumai ir grėsmės gali paslysti pro įtrūkimus, prieš juos pastebėdami. Vienintelis būdas išlikti saugiam yra reguliariai iš naujo įvertinti savo saugumo laikyseną.
Bent kartą per metus peržiūrėkite savo AI modelį, jo mokymo duomenis ir bet kokius saugumo incidentus, kurie taip pat paveikė. Aprašykite duomenų rinkinį ir algoritmą, kad užtikrintumėte, jog jis veikia tinkamai ir nėra apsinuodijusių, klaidinančių ar kitaip kenksmingų duomenų. Prireikus pritaikykite savo saugos valdiklius prie nieko neįprasto, kurį pastebite.
Skverbimosi bandymai, kai saugumo ekspertai išbando jūsų gynybą bandydami juos pro šalį pralenkti, taip pat yra naudingi. Visi, bet 17% kibernetinio saugumo profesionalų Bent kartą kasmet bandykite rašiklį, ir 72% tų, kurie sako, kad, jų manymu, sustabdė pažeidimą jų organizacijoje.
Kibernetinis saugumas yra raktas į saugų AI plėtrą
Etiška ir saugi PG vystymasis tampa vis svarbesnis, nes potencialios problemos, susijusios su pasitikėjimu mašininiu mokymu, auga. Savo mokymo duomenų bazės užtikrinimas yra kritinis žingsnis patenkant tą paklausą.
AI mokymo duomenys yra per daug vertingi ir pažeidžiami ignoruoti savo kibernetinę riziką. Atlikite šiuos penkis veiksmus šiandien, kad jūsų modelis ir jo duomenų rinkinys būtų saugus.
Source link
