Kasunod ng tatlong araw na pag-uusap sa 'marathon', ang pagkapangulo ng Konseho at ang mga negosyador ng European Parliament ay umabot sa isang pansamantalang kasunduan sa panukala sa mga harmonized na panuntunan sa artificial intelligence (AI), ang tinatawag na artificial intelligence act. Ang draft na regulasyon ay naglalayong tiyakin na ang mga AI system na inilagay sa European market at ginagamit sa EU ay ligtas at iginagalang ang mga pangunahing karapatan at mga halaga ng EU. Nilalayon din ng landmark na panukalang ito na pasiglahin ang pamumuhunan at pagbabago sa AI sa Europa.
Isa itong makasaysayang tagumpay, at isang malaking milestone patungo sa hinaharap! Ang kasunduan ngayon ay epektibong tumutugon sa isang pandaigdigang hamon sa isang mabilis na umuusbong na teknolohikal na kapaligiran sa isang mahalagang lugar para sa kinabukasan ng ating mga lipunan at ekonomiya. At sa pagpupunyagi na ito, nagawa naming mapanatili ang isang napaka-pinong balanse: pagpapalakas ng pagbabago at paggamit ng artificial intelligence sa buong Europe habang ganap na iginagalang ang mga pangunahing karapatan ng ating mga mamamayan. Carme Artigas, Spanish secretary of state para sa digitalization at artificial intelligence
Ang AI act ay a punong barko inisyatibong pambatasan na may potensyal na pagyamanin ang pagbuo at pagkuha ng ligtas at mapagkakatiwalaang AI sa iisang merkado ng EU ng parehong pribado at pampublikong aktor. Ang pangunahing ideya ay upang ayusin ang AI batay sa kakayahan ng huli na magdulot ng pinsala sa lipunan kasunod ng a 'nakabatay sa panganib' lapitan: mas mataas ang panganib, mas mahigpit ang mga patakaran. Bilang unang panukalang pambatasan sa uri nito sa mundo, maaari itong magtakda ng a pandaigdigang pamantayan para sa regulasyon ng AI sa ibang mga hurisdiksyon, tulad ng ginawa ng GDPR, kaya nagpo-promote ng European approach sa tech regulation sa world stage.
Ang mga pangunahing elemento ng pansamantalang kasunduan
Kung ikukumpara sa paunang panukala ng Komisyon, ang mga pangunahing bagong elemento ng pansamantalang kasunduan ay maaaring buod tulad ng sumusunod:
mga tuntunin sa high-impact na pangkalahatang layunin na mga modelo ng AI na maaaring magdulot ng systemic na panganib sa hinaharap, gayundin sa mataas na panganib Mga system ng AI
isang binagong sistema ng pamumuno na may ilang kapangyarihan sa pagpapatupad sa antas ng EU
extension ng listahan ng pagbabawal ngunit may posibilidad na gamitin malayuang biometric na pagkakakilanlan ng mga awtoridad sa pagpapatupad ng batas sa mga pampublikong espasyo, na napapailalim sa mga pananggalang
mas mahusay na proteksyon ng mga karapatan sa pamamagitan ng obligasyon para sa mga deployer ng mga high-risk AI system na magsagawa ng a pagtatasa ng epekto ng mga pangunahing karapatan bago gamitin ang isang AI system.
Sa mas konkretong termino, ang pansamantalang kasunduan ay sumasaklaw sa mga sumusunod na aspeto:
Mga kahulugan at saklaw
Upang matiyak na ang depinisyon ng isang AI system ay nagbibigay ng sapat na malinaw na pamantayan para sa pagkakaiba ng AI mula sa mas simpleng software system, ang kasunduan sa kompromiso ay iniayon ang kahulugan sa diskarte na iminungkahi ng OECD.
Nililinaw din ng pansamantalang kasunduan na ang regulasyon ay hindi nalalapat sa mga lugar sa labas ng saklaw ng batas ng EU at hindi dapat, sa anumang kaso, makaapekto sa mga kakayahan ng mga miyembrong estado sa Pambansang seguridad o anumang entity na pinagkatiwalaan ng mga gawain sa lugar na ito. Higit pa rito, ang batas ng AI ay hindi ilalapat sa mga system na eksklusibong ginagamit para sa militar or pagtatanggol mga layunin. Katulad nito, ang kasunduan ay nagbibigay na ang regulasyon ay hindi mailalapat sa mga AI system na ginagamit para sa tanging layunin ng pananaliksik at pagbabago, o para sa mga taong gumagamit ng AI para sa hindi propesyonal na mga kadahilanan.
anunsyo
Pag-uuri ng mga AI system bilang high-risk at ipinagbabawal na mga kasanayan sa AI
Ang kasunduan sa kompromiso ay nagbibigay ng a pahalang na layer ng proteksyon, kabilang ang isang mataas na panganib na pag-uuri, upang matiyak na ang mga AI system na malamang na hindi magdulot ng malubhang paglabag sa mga pangunahing karapatan o iba pang makabuluhang panganib ay hindi nakukuha. Ang mga AI system ay nagpapakita lamang limitadong peligro ay sasailalim sa napakagaan mga obligasyon sa transparency, halimbawa ang pagbubunyag na ang nilalaman ay binuo ng AI upang ang mga user ay makakagawa ng matalinong mga pagpapasya sa karagdagang paggamit.
Ang isang malawak na hanay ng napakadelekado Ang mga AI system ay papahintulutan, ngunit napapailalim sa isang hanay ng mga kinakailangan at obligasyon upang makakuha ng access sa merkado ng EU. Ang mga kinakailangang ito ay nilinaw at inayos ng mga kasamang mambabatas sa paraang higit pa sila teknikal na magagawa at hindi gaanong mabigat para sa mga stakeholder na sumunod, halimbawa tungkol sa kalidad ng data, o kaugnay ng teknikal na dokumentasyon na dapat iguhit ng mga SME upang ipakita na ang kanilang mga high-risk na AI system ay sumusunod sa mga kinakailangan.
Dahil ang mga AI system ay binuo at ipinamahagi sa pamamagitan ng mga kumplikadong value chain, kasama sa kasunduan sa kompromiso ang mga pagbabagong naglilinaw sa paglalaan ng mga responsibilidad at mga tungkulin ng iba't ibang aktor sa mga chain na iyon, sa partikular na mga provider at user ng AI system. Nililinaw din nito ang kaugnayan sa pagitan ng mga responsibilidad sa ilalim ng AI Act at mga responsibilidad na umiiral na sa ilalim ng iba pang batas, gaya ng nauugnay na proteksyon sa data ng EU o sektoral na batas.
Para sa ilang paggamit ng AI, ang panganib ay itinuturing hindi katanggap-tanggap at, samakatuwid, ang mga sistemang ito ay ipagbabawal mula sa EU. Ipinagbabawal ng pansamantalang kasunduan, halimbawa, ang cognitive pagmamanipula ng asal, ang hindi naka-target pagwasak ng mga larawan ng mukha mula sa internet o CCTV footage, pagkilala sa emosyon sa lugar ng trabaho at mga institusyong pang-edukasyon, pagmamarka ng lipunan, biometric categorization upang maghinuha ng sensitibong data, gaya ng oryentasyong sekswal o paniniwala sa relihiyon, at ilang kaso ng predictive policing para sa mga indibidwal.
Mga pagbubukod sa pagpapatupad ng batas
Isinasaalang-alang ang mga pagtitiyak ng mga awtoridad sa pagpapatupad ng batas at ang pangangailangang panatilihin ang kanilang kakayahang gumamit ng AI sa kanilang mahahalagang gawain, ilang pagbabago sa panukala ng Komisyon ang napagkasunduan na may kaugnayan sa paggamit ng mga sistema ng AI para sa mga layunin ng pagpapatupad ng batas. Napapailalim sa naaangkop pananggalang, ang mga pagbabagong ito ay nilalayong ipakita ang pangangailangang igalang ang pagiging kumpidensyal ng sensitibong data ng pagpapatakbo kaugnay ng kanilang mga aktibidad. Halimbawa, ipinakilala ang isang emergency na pamamaraan na nagpapahintulot sa mga ahensyang nagpapatupad ng batas na mag-deploy ng high-risk AI tool na hindi nakapasa sa pagtatasa ng pagsang-ayon pamamaraan sa kaso ng pangangailangan ng madaliang pagkilos. Gayunpaman, ang isang tiyak na mekanismo ay ipinakilala din upang matiyak iyon pangunahing mga karapatan ay sapat na protektado laban sa anumang potensyal na maling paggamit ng mga AI system.
Bukod dito, tungkol sa paggamit ng real-time malayuang biometric na pagkakakilanlan mga sistema sa mga puwang na naa-access ng publiko, nililinaw ng pansamantalang kasunduan ang mga layunin kung saan ang naturang paggamit ay mahigpit na kinakailangan para sa mga layunin ng pagpapatupad ng batas at kung saan ang mga awtoridad sa pagpapatupad ng batas ay dapat samakatuwid ay pambihirang payagan na gumamit ng mga naturang sistema. Ang kasunduan sa kompromiso ay nagbibigay para sa karagdagang mga pananggalang at nililimitahan ang mga pagbubukod na ito sa mga kaso ng mga biktima ng ilang partikular na krimen, pag-iwas sa mga tunay, kasalukuyan, o nakikinita na mga banta, tulad ng pag-atake ng mga terorista, at paghahanap ng mga taong pinaghihinalaang may pinakamalalang krimen.
Pangkalahatang layunin ng AI system at mga modelo ng pundasyon
Ang mga bagong probisyon ay idinagdag upang isaalang-alang ang mga sitwasyon kung saan ang mga AI system ay maaaring gamitin para sa maraming iba't ibang layunin (pangkalahatang layunin AI), at kung saan ang pangkalahatang layunin na teknolohiya ng AI ay kasunod na isinama sa isa pang high-risk system. Tinutugunan din ng pansamantalang kasunduan ang mga partikular na kaso ng mga general-purpose AI (GPAI) system.
Napagkasunduan din ang mga partikular na tuntunin mga modelo ng pundasyon, malalaking system na may kakayahang magsagawa ng malawak na hanay ng mga natatanging gawain, tulad ng pagbuo ng video, teksto, mga larawan, pakikipag-usap sa lateral na wika, pag-compute, o pagbuo ng computer code. Ang pansamantalang kasunduan ay nagbibigay na ang mga modelo ng pundasyon ay dapat sumunod sa partikular mga obligasyon sa transparency bago sila ilagay sa palengke. Isang mas mahigpit na rehimen ang ipinakilala para sa 'mataas na epekto' mga modelo ng pundasyon. Ito ang mga modelong pundasyon na sinanay na may malaking dami ng data at may advanced na kumplikado, kakayahan, at pagganap na higit sa karaniwan, na maaaring magpakalat ng mga sistematikong panganib sa kahabaan ng value chain.
Isang bagong arkitektura ng pamamahala
Ang pagsunod sa mga bagong panuntunan sa mga modelo ng GPAI at ang malinaw na pangangailangan para sa kanilang pagpapatupad sa antas ng EU, isang Opisina ng AI sa loob ng Komisyon ay naka-set up na may tungkuling pangasiwaan ang mga pinaka-advanced na modelo ng AI, mag-ambag sa pagpapaunlad ng mga pamantayan at kasanayan sa pagsubok, at ipatupad ang mga karaniwang panuntunan sa lahat ng estadong miyembro. A siyentipikong panel ng mga independiyenteng eksperto ay magpapayo sa Opisina ng AI tungkol sa mga modelo ng GPAI, sa pamamagitan ng pag-aambag sa pagbuo ng mga pamamaraan para sa pagsusuri ng mga kakayahan ng mga modelo ng pundasyon, pagpapayo sa pagtatalaga at paglitaw ng mga modelo ng pundasyon na may mataas na epekto, at pagsubaybay sa mga posibleng panganib sa kaligtasan ng materyal na nauugnay sa mga modelo ng pundasyon.
Ang AI Board, na bubuo ng mga kinatawan ng mga miyembrong estado, ay mananatiling isang platform ng koordinasyon at isang katawan ng pagpapayo sa Komisyon at magbibigay ng mahalagang papel sa mga Estado ng Miyembro sa pagpapatupad ng regulasyon, kabilang ang disenyo ng mga code ng pagsasanay para sa mga modelo ng pundasyon. Sa wakas, isang forum ng pagpapayo para sa mga stakeholder, tulad ng mga kinatawan ng industriya, SME, start-up, civil society, at academia, ay ise-set up upang magbigay ng teknikal na kadalubhasaan sa AI Board.
Parusa
Ang mga multa para sa mga paglabag sa batas ng AI ay itinakda bilang isang porsyento ng global na taunang turnover ng lumalabag na kumpanya sa nakaraang taon ng pananalapi o isang paunang natukoy na halaga, alinman ang mas mataas. Ito ay magiging €35 milyon o 7% para sa mga paglabag sa mga ipinagbabawal na aplikasyon ng AI, €15 milyon o 3% para sa mga paglabag sa mga obligasyon ng AI act at €7,5 milyon o 1,5% para sa pagbibigay ng maling impormasyon. Gayunpaman, ang pansamantalang kasunduan ay nagbibigay para sa mas proporsyonal na mga takip sa mga administratibong multa para sa mga SME at start-up sa kaso ng mga paglabag sa mga probisyon ng AI act.
Nilinaw din ng kasunduan sa kompromiso na ang isang natural o legal na tao ay maaaring magreklamo sa may-katuturan awtoridad sa pagbabantay sa merkado hinggil sa hindi pagsunod sa batas ng AI at maaaring asahan na ang naturang reklamo ay hahawakan alinsunod sa mga nakatalagang pamamaraan ng awtoridad na iyon.
Transparency at proteksyon ng mga pangunahing karapatan
Ang pansamantalang kasunduan ay nagbibigay ng a pagtatasa ng epekto ng mga pangunahing karapatan bago ang isang high-risk na AI system ay ilagay sa merkado ng mga deployer nito. Ang pansamantalang kasunduan ay nagbibigay din ng pagtaas aninaw tungkol sa paggamit ng mga high-risk AI system. Kapansin-pansin, ang ilang mga probisyon ng panukala ng Komisyon ay binago upang ipahiwatig na ang ilang mga gumagamit ng isang high-risk na AI system na mga pampublikong entity ay obligado ring magparehistro sa database ng EU para sa mga high-risk na AI system. Bukod dito, binibigyang-diin ng mga bagong idinagdag na probisyon ang isang obligasyon para sa mga gumagamit ng isang sistema ng pagkilala ng damdamin upang ipaalam sa mga natural na tao kapag sila ay nalantad sa naturang sistema.
Mga hakbang sa pagsuporta sa pagbabago
Sa layuning lumikha ng legal na balangkas na higit na makabagong-likha at sa pagtataguyod ng pag-aaral ng regulasyon na nakabatay sa ebidensya, ang mga probisyon tungkol sa mga hakbang sa pagsuporta sa pagbabago ay binago nang malaki kumpara sa panukala ng Komisyon.
Kapansin-pansin, nilinaw na ang AI mga regulatory sandbox, na dapat na magtatag ng isang kontroladong kapaligiran para sa pagbuo, pagsubok at pagpapatunay ng mga makabagong AI system, ay dapat ding magbigay-daan para sa pagsubok ng mga makabagong AI system sa totoong mga kondisyon ng mundo. Higit pa rito, ang mga bagong probisyon ay idinagdag na nagpapahintulot pagsubok ng mga AI system sa tunay na kalagayan ng mundo, sa ilalim ng mga partikular na kundisyon at pananggalang. Upang maibsan ang administratibong pasanin para sa mas maliliit na kumpanya, kasama sa pansamantalang kasunduan ang isang listahan ng mga aksyon na isasagawa upang suportahan ang mga naturang operator at nagbibigay ng ilang limitado at malinaw na tinukoy na mga pagbabawas.
Entry sa lakas
Ang pansamantalang kasunduan ay nagbibigay na ang batas ng AI ay dapat ilapat dalawang taon pagkatapos ng pagpasok nito sa bisa, na may ilang mga pagbubukod para sa mga partikular na probisyon.
Susunod na mga hakbang
Kasunod ng pansamantalang kasunduan ngayong araw, magpapatuloy ang trabaho sa teknikal na antas sa mga darating na linggo upang tapusin ang mga detalye ng bagong regulasyon. Isusumite ng presidency ang text ng kompromiso sa mga kinatawan ng mga miyembrong estado (Coreper) para sa pag-endorso kapag natapos na ang gawaing ito.
Ang buong teksto ay kailangang kumpirmahin ng parehong mga institusyon at sumailalim sa legal-linguistic na rebisyon bago ang pormal na pag-aampon ng mga co-legislator.
Background na impormasyon
Ang panukala ng Komisyon, na iniharap noong Abril 2021, ay isang mahalagang elemento ng patakaran ng EU upang pasiglahin ang pag-unlad at paggamit sa iisang merkado ng ligtas at legal na AI na gumagalang sa mga pangunahing karapatan.
Ang panukala ay sumusunod sa isang diskarte na nakabatay sa panganib at naglalatag ng isang pare-pareho, pahalang na legal na balangkas para sa AI na naglalayong tiyakin ang legal na katiyakan. Ang draft na regulasyon ay naglalayong isulong ang pamumuhunan at inobasyon sa AI, pahusayin ang pamamahala at epektibong pagpapatupad ng umiiral na batas sa mga pangunahing karapatan at kaligtasan, at mapadali ang pagbuo ng isang merkado para sa mga aplikasyon ng AI. Sumasabay ito sa iba pang mga inisyatiba, kabilang ang coordinated plan sa artificial intelligence na naglalayong mapabilis ang pamumuhunan sa AI sa Europe. Noong Disyembre 6, 2022, naabot ng Konseho ang isang kasunduan para sa isang pangkalahatang diskarte (utos sa pakikipagnegosasyon) sa file na ito at pumasok sa mga interinstitutional na pag-uusap sa European Parliament ('trilogues') noong kalagitnaan ng Hunyo 2023.
Ang EU Reporter ay naglalathala ng mga artikulo mula sa iba't ibang panlabas na mapagkukunan na nagpapahayag ng malawak na hanay ng mga pananaw. Ang mga posisyong kinuha sa mga artikulong ito ay hindi naman sa EU Reporter.
