SNereikia susirūpinti, optimizmas yra toks: tai buvo šios savaitės pagrindinio dirbtinio žvalgybos viršūnių susitikimo Paryžiuje, kaip JAV, Prancūzijos ir už jo ribų lyderiai, metė savo svorį už AI pramonę.
Nors tarp didžiųjų tautų buvo padaliniai-JAV ir JK nepasirašė galutinio pareiškimo, kuriam patvirtino 60 tautų, raginančių „įtraukiantį“ ir „atvirą“ AI sektorių-dviejų dienų susitikimo dėmesys labai skyrėsi nuo paskutiniųjų toks susibūrimas. Praėjusiais metais Seule buvo akcentuojamas AI pramonės raudonųjų linijų apibrėžimas. Susirūpinimas: kad technologija, nors ir turi didelį pažadą, taip pat turėjo didelę žalą.
Bet tai buvo tada. Galutiniame pareiškime nebuvo paminėta didelė AI rizika ir bandymai juos sušvelninti, o antradienį kalboje JAV viceprezidentas JD Vance sakė: „Aš nesu čia šį rytą, kad galėčiau kalbėti apie AI saugumą, o tai buvo pavadinimas konferencija prieš porą metų. Aš čia, norėdamas kalbėti apie AI galimybes. “
Prancūzijos lyderis ir aukščiausiojo lygio susitikimo šeimininkas Emmanuelis Macronas taip pat trimitavo neabejotinai verslo žinią-suprato, kaip nekantrios tautos visame pasaulyje turi įgyti pranašumą kuriant naujas AI sistemas.
Kažkada Bletchley
AI akcentuojamas AI sektoriaus padidinimas ir atmesti saugos problemas buvo toli nuo pirmojo visuotinio aukščiausiojo lygio susitikimo AI, vykusiame Bletchley parke JK 2023 m. Vadinama „AI saugos viršūnių susitikimu“ – Prancūzijos susitikimas, priešingai, buvo vadinamas. „AI veiksmo viršūnių susitikimas“ – aiškus tikslas buvo išspręsti būdą, kaip sušvelninti riziką, kurią kelia technologijos pokyčiai.
Antrasis pasaulinis susibūrimas, 2024 m. Seule, pastatytas ant šio fondo, o lyderiai užsitikrino savanoriškus saugos įsipareigojimus, susijusius su tokiais pirmaujančiais AI žaidėjais kaip „Openai“, „Google“, „Meta“ ir jų kolegos Kinijoje, Pietų Korėjoje ir Jungtiniuose Arabų Emyratuose. 2025 m. Aukščiausiojo lygio susitikimas Paryžiuje, vyriausybės ir AI bendrovės, su kuriomis susitarė tuo metu, bus vieta, kur bus apibrėžti Raudonosios linijos AI: Rizikos slenksčiai, kuriems prireiks švelninimo tarptautiniu lygiu.
Tačiau Paryžius ėjo kitu keliu. „Aš manau, kad tai buvo tikras pilvo flopas“,-sako Maxas Tegmark, MIT profesorius ir Gyvenimo Ateities instituto prezidentas, pelno nesiekiantis siekis, orientuota į AI rizikos mažinimą. „Beveik atrodė, kad jie bando anuliuoti Bletchley“.
„Anthropic“, AI įmonė, orientuota į saugą, renginį pavadino „praleista galimybe“.
JK, kurioje buvo surengta pirmasis AI viršūnių susitikimas, teigė, kad atsisakė pasirašyti Paryžiaus deklaraciją, nes trūksta esmės. „Mes manėme, kad deklaracija nepateikė pakankamai praktinio aiškumo apie pasaulinį valdymą ir nepakankamai išsprendžia sunkesnius klausimus apie nacionalinį saugumą ir iššūkį, kurį AI kelia“, – sakė ministro pirmininko Keiro Starmerio atstovas.
Lenktynės už kraštą
Poslinkis kyla atsižvelgiant į intensyvius AI pokyčius. Maždaug per mėnesį iki 2025 m. Aukščiausiojo lygio susitikimo „Openai“ išleido „agento“ modelį, galintį atlikti tyrimų užduotis maždaug kaip kompetentingo abituriento lygio.
Tuo tarpu saugos tyrėjai pirmą kartą parodė, kad naujausios kartos AI modeliai gali bandyti apgauti savo kūrėjus ir nukopijuoti save, bandydami išvengti modifikavimo. Daugelis nepriklausomų AI mokslininkų dabar sutinka su pačių technologijų kompanijų prognozėmis: kad per ateinančius penkerius metus gali būti plėtojama superžmoginio lygio AI-potencialiai katastrofiškas poveikis, jei neišspręsta klausimų saugos tyrimuose nėra nagrinėjami.
Vis dėlto tokie rūpesčiai buvo perkelti į užpakalinį degiklį, nes ypač JAV pateikė tvirtą argumentą prieš žingsnius reguliuoti sektorių, o Vance sakydavo, kad D.Trumpo administracija „negali ir nepriims“ užsienio vyriausybių „sugriežtindama JAV technikos varžtus įmonės. “
Jis taip pat griežtai kritikavo Europos taisykles. ES turi išsamiausią pasaulyje AI įstatymą, vadinamą AI įstatymu, taip pat ir kitus įstatymus, tokius kaip Skaitmeninių paslaugų įstatymas, kurį Vance pavadino pavadinimu kaip pernelyg ribojančiu savo apribojimais, susijusiais su dezinformacija socialinėje žiniasklaidoje.
Naujasis viceprezidentas, turintis plačią rizikos kapitalistų paramos bazę, taip pat aiškiai pasakė, kad jo politinė parama didžiųjų technologijų kompanijoms netaikė taisyklių, kurios sukels kliūtis naujiems pradedantiesiems, taigi trukdo kurti novatoriškas AI technologijas.
„Dabar apriboti (AI) plėtrą ne tik nesąžiningai naudinga rinkos dalyviai erdvėje, bet tai reikštų paralyžiuoti vieną perspektyviausių technologijų, kurias matėme kartose“, – teigė Vance. „Kai pas mus ateina didžiulis dabartinis asmuo, prašantis saugos taisyklių, turėtume paklausti, ar tas saugos reglamentas yra naudingas mūsų žmonėms, ar tai yra dabartiniam dalyviui.“
Aišku ženklu, kad susirūpinimas dėl AI rizikos yra palanki prezidento Trumpo Vašingtone, jis susiejo AI saugumą su populiariu respublikonų kalbėjimo tašku: socialinės žiniasklaidos platformų „laisvės kalbos“ apribojimu, bandančiu išspręsti tokias žala kaip dezinformacija.
Su „Tharin Pillay“/„Paryžiaus“ ir „Harry Booth“/Paryžiaus pranešimais
Source link
