Ang OASI, ang unang search engine na nakakita ng mga algorithm na ginagamit ng mga gobyerno at kumpanya sa mga mamamayan

• Nilikha ng Eticas Foundation, ang Observatory of Algorithms na may Epektong Panlipunan, OASI, nangongolekta ng impormasyon mula sa dose-dosenang mga algorithm na ginamit ng Mga Pampamahalaang Publiko at mga kumpanya sa buong mundo upang malaman ang tungkol sa kanilang epekto sa lipunan.
  
• Ang layunin ay upang bigyan ang pampublikong pag-access sa impormasyon sa parehong mga pamahalaan at mga algorithm ng kumpanya, at malaman kung sino ang gumagamit ng mga ito, na bumubuo sa kanila, kung ano ang mga banta na kinakatawan nila at kung na-awdit sila, bukod sa iba pang mga katangian.

• Karaniwang nangyayari ang bias ng diskriminasyon at diskriminasyon batay sa edad, kasarian, lahi o kapansanan, bukod sa iba pang mga halaga, ngunit dahil sa pangkalahatang kawalan ng transparency, hindi pa rin malalaman ang lahat ng mga kahihinatnan nito sa mga apektadong pangkat.

Ang Eticas Foundation, isang samahang non-profit na nagtataguyod ng responsableng paggamit ng mga algorithm at system ng Artipisyal na Intelihensiya (AI), ay lumikha ng Observatory of Algorithms with Social Impact (OASI). Ipinakikilala ng Observatory na ito ang isang search engine upang malaman ang tungkol sa mga tool na gumawa ng mahalagang mga awtomatikong desisyon sa mga mamamayan, mamimili at gumagamit sa buong mundo.

Sa kasalukuyan, ang parehong mga kumpanya at Public Administrations ay nagbibigay ng awtomatiko sa mga pagpapasya salamat sa mga algorithm. Gayunpaman, ang pag-unlad at pag-komisyon nito ay hindi sumusunod sa mga kontrol sa panlabas na kalidad, hindi rin ito kasing transparent na dapat, na nag-iiwan ng populasyon na walang proteksyon. Sa search engine na ito, maaaring malaman ng sinuman ang higit pa tungkol sa mga algorithm na ito: sino ang bumuo sa kanila, na gumagamit ng mga ito, ang kanilang saklaw ng aplikasyon, na-audit na ba, ang kanilang mga layunin o ang kanilang epekto sa lipunan at ang mga banta na kinakatawan nila.

Sa sandaling ito, Kinokolekta ng OASI ang 57 na mga algorithm, ngunit inaasahan na maabot ang 100 sa mga susunod na buwan. Kabilang sa mga ito, 24 ay inilalapat na sa USA ng mga kumpanya ng Pamahalaan at Big Tech. Halimbawa, ang ShotSpotter, isang tool sa algorithm na ipinakalat ng Kagawaran ng Pulisya ng Oakland upang labanan at mabawasan ang karahasan ng baril sa pamamagitan ng mga micropono ng pagmamanman ng tunog, at isang algorithm upang mahulaan ang potensyal na pang-aabuso sa bata at kapabayaan na ginamit ng Allegheny County, Pennsylvania. Ang isa pang halimbawa mula sa isang korporasyon ay ang Pagkilala, ang sistema ng pagkilala sa mukha ng Amazon, na na-audit ng MIT Media Lab noong unang bahagi ng 2019, at natagpuan na mas mahusay na gumanap kapag kinikilala ang kasarian ng isang indibidwal kung sila ay babae o may maitim na balat.

Ang pinakakaraniwang diskriminasyon ay sa batayan ng edad, kasarian, lahi o kapansanan, nagawa nang hindi sinasadya ng mga developer na walang kasanayan sa socioeconomic upang maunawaan ang epekto ng teknolohiyang ito. Sa puntong ito, ang mga inhinyero na ito ay nagdidisenyo ng mga algorithm batay lamang sa mga kasanayang panteknikal, at dahil walang mga panlabas na kontrol at tila gumagana ito tulad ng inaasahan, panatilihin ang pag-aaral ng algorithm mula sa kulang na data.

Dahil sa kawalan ng transparency tungkol sa paggana ng ilan sa mga algorithm na ito, ang Eticas Foundation, bukod sa paglulunsad ng OASI, ay bumubuo ng isang proyekto ng panlabas na pag-audit. Ang una ay VioGén, ang algorithm na ginamit ng Spanish Interior Ministry upang magtalaga ng panganib sa mga kababaihan na humingi ng proteksyon pagkatapos ng pagdurusa ng mga kaso ng karahasan sa tahanan. Magsasagawa ang Eticas ng isang panlabas na pag-audit sa pamamagitan ng reverse engineering at pang-administratibong data, panayam, ulat o mga script ng disenyo, upang mangolekta ng mga resulta sa sukatan. Ang lahat ng ito ay may layunin na makita ang mga pagkakataon para sa pagpapabuti sa proteksyon ng mga kababaihang ito.

"Sa kabila ng pagkakaroon ng algorithmic control at audit na mga pamamaraan upang matiyak na nirerespeto ng teknolohiya ang kasalukuyang mga regulasyon at pangunahing mga karapatan, ang Administrasyon at maraming mga kumpanya ay patuloy na nagbubingi sa mga kahilingan para sa transparency mula sa mga mamamayan at institusyon," idineklara ni Gemma Galdon, tagapagtatag ng Eticas Foundation . "Bilang karagdagan sa OASI, pagkatapos ng maraming taon kung saan nakabuo kami ng higit sa isang dosenang pag-audit para sa mga kumpanya tulad ng Alpha Telefónica, United Nations, Koa Health o ang Inter-American Development Bank, nag-publish din kami ng isang Gabay sa Algorithmic Audit kaya't na kahit sino ay maaaring gumanap ng mga ito. Ang layunin ay palaging taasan ang kamalayan, magbigay ng transparency at ibalik ang kumpiyansa sa teknolohiya, na sa kanyang sarili ay hindi kailangang mapanganib. "

Sa puntong ito, ang mga algorithm na sinanay sa mga machine tecnhique sa pag-aaral gamit ang isang malaking halaga ng makasaysayang data upang "turuan" silang pumili batay sa mga nakaraang pasya. Karaniwan ang mga datos na ito ay hindi kinatawan ng socioeconomic at kultural na katotohanan kung saan inilalapat ito, ngunit sa maraming mga pagkakataon ay sumasalamin sila ng isang hindi patas na sitwasyon na hindi inilaan upang mapanatili. Sa ganitong paraan, ang algorithm ay magiging teknikal na paggawa ng "tamang" mga desisyon ayon sa pagsasanay nito, kahit na ang katotohanan ay ang mga rekomendasyon o hula nito ay kinikilingan o naiiba.

anunsyo

Tungkol sa Eticas Foundation

Gumagawa ang Eticas Foundation upang isalin sa mga panteknikal na pagtutukoy ng mga prinsipyong gumagabay sa lipunan, tulad ng pantay na pagkakataon, transparency at di-diskriminasyon na nasa mga teknolohiya na gumagawa ng mga awtomatikong desisyon tungkol sa ating buhay. Naghahanap ito ng balanse sa pagitan ng pagbabago ng mga halagang panlipunan, mga teknikal na posibilidad ng pinakabagong pagsulong at ligal na balangkas. Sa layuning ito, nag-e-audit ito ng mga algorithm, napatunayan na ang mga ligal na garantiya ay inilalapat sa digital na mundo, lalo na sa Artipisyal na Intelihensiya, at nagsasagawa ng matinding gawain upang itaas ang kamalayan at ipakalat ang pangangailangan para sa responsable, kalidad na teknolohiya.

Ibahagi ang artikulong ito: