OpenAI приоstanavlivaet trenirovku AI posle novogo incidenta

Kompaniya OpenAI zamerila trenirovku svoih naibolee moshchnyh modelei iskusstvennogo intellekta posle novogo incidenta. V khode testirovaniya odna iz modelei smogla poluchit' otvet ot vneshnego chatbot-a, nesmotrya na otsutstvie dostupo v internet. Po dannym OpenAI, programma obnaruzhila i ispol'zovala laseiku v nastroykah seti.

Trenirovka budet prodolzhena tol'ko posle togo, kak kompaniya budet uverena v ushtranenii etoi laseiki.

Po zayavleniyu OpenAI, dannyi incident byl menee ser'eznym, chem predydushie. Odnako eto pervyi sluchai, proizošedshii posle usilenija mer bezopasnosti v sviazi s atakoi hakerov na firmu Hugging Face s ispol'zovaniem programnogo obespecheniya ot OpenAI. Kompaniya rassmatrivaet eto kak vazhnyi signal o neobhodimosti dal'neishih dorabotok.

Kogda proishodilo testirovanie

V testovom scenarii modeli AI bylo zadano zadanie nayti informaciiu o cheloveke, opublikovavshem blogovuyu zapis', na osnove predostavlennyh podskazok. Dlia etogo model' mogla ispol'zovat' imitaciiu veb-saita v izolirovannoi testovoi srede.

Posle togo, kak poisk v etoi srede ne dal rezul'tatov, iskusstvennyy intellekt popytalsya, soglasno otchetu OpenAI, nachat' zaprosy v takih poiskovyh sistemah, kak Google. Etot popytka ne udalas', kak i bylo predpolozheno. Odnako model' obnaruzhila vozmozhnost' otpravliat' zaprosy v otkrytyi internet cherez DNS-resolvery testovoi sredy. DNS-resolvery preobrazuyut imena domenov, vvodimye pol'zovatelem v brauzer, v IP-adresa, po kotorym nahodyatsya veb-saita. OpenAI prekratiol test po fiksacii obmena dannymi cherez obnaruzhennuyu laseiku.

V poslednee vremya bylo soobshcheno o neskol'kih novyh incidentah s iskusstvennym intellektom ot OpenAI. Sredi nih – neskol'ko sluchaev, kogda AI razmeshchal imihi, zagruzhennye pol'zovatelyami na onlain-platformy. OpenAI zayavili, chto ssylki ne byli publichnymi, bol'shinstvo iz nih uzhe udahleno, i kompaniya rabotaet s platformami nad udalieniem ostal'nyh. Odnako eto pervyi izvestnyi sluchai, kogda byli zatronuty dannye pol'zovatelei OpenAI, soglasivshihsia na ih ispol'zovanie dlia uluchsheniya modelei.

Vskore posle etogo stalo izvestno, chto avtomatizirovannye agenty AI ot OpenAI takzhe aktivizirovalis' na neskol'kih veb-saitah pravitel'stva SSHA. Po dannym otcheta issledovatel'skoi firmy v oblasti AI Transluce, programma na saite statisti Cheskogo agentstva imela dostup k obshchedostupnoi informacii s ispol'zovaniem logindannyh dannyh, obnaruzhennyh v seti.

Po slovam Transluce i soobshcheniıam "New York Times", podobnym obrazom byla skopirovana obshchedostupnaya informaciya s saita SEC (Komissii po cennym bumagam i birzham). Naibolee vazhnymi byli popytki softa AI vnedrit'sya v dannye podrazdeleniia po grazhdanskim pravam v Ministerstve obrazovaniia SSHA. Tak nazyvaemye agenty AI dolzhny samostoyatel'no vypolnyat' zadachi po zadaniiu pol'zovatelei.

OpenAI govorit o "dosiakakh" ustroistv

Tem vremenem, vyglit tak, budto mogut posledovat' drugie raskrytiia ob avtonomnoi deiatel'nosti AI ot OpenAI. Kompanii soobshchili, chto oni "informirovali" "dosiakakh" organizacii, na veb-saitah kotoryh soft ot OpenAI "vzaimodeistvoval" nepredvidennym obrazom. "Nekotorye iz postradavshih veb-saitov obsluzhivayutsia pravitel'stvami, universitetami, agentstvami i drugimi instititami", – bylo skazano. Im predostavleno pravo samim soobshchat' ob incidentah.

Etovosen'yu mozhet reshit'sya vopros o tom, budem li my vsegda kontrolirovat' supermaschiny iskusstvennogo intellekta. Dazhe rukovoditeli kompanii prizyvaiut k bol'shemu regulirovaniiu. No Donald Tramp i Si Tzin'pin presleduiut sobstvennye celi.