Maaari bang makumbinsi ang isang matalinong diskarte sa #AI sa EU na ang #Facebook na nilalaman ng nilalaman ay hanggang sa snuff?

Noong 17 Pebrero, habang nakikipagpulong sa mga patakaran ng Europa sa Brussels, CEO ng Facebook na si Mark Zuckerberg (Nakalarawan) naglabas ng isang puting papel na nagbabalewala sa kanyang diskarte para sa pagharap sa mga nakakapinsalang nilalaman sa mga platform ng social media. Bilang tugon sa pagnanais ng European Union na ma-ratchet ang pangangasiwa ng sektor ng tech, ang bilyunaryo ay gumawa ng isang kaso na ang industriya ay dapat na regulahin sa isang pandaigdigan, sa halip na isang lokal, antas.

Nagtalo rin siya na ang pananagutan ng mga kumpanya ng tech para sa mga nakakapinsalang nilalaman sa kanilang mga platform ay dapat na limitado-hangga't mayroon silang mabisang mga sistema ng pag-moderate ng nilalaman sa lugar. Ang mga mungkahi ni Zuckerberg, gayunpaman, ay nakatanggap ng isang napakahusay na pagtanggap ng nagyelo sa Brussels. Kahit na pagkatapos matugunan ang Zuckerberg, pinanatili ng EU na ang bagong panukala ng moderation ng nilalaman ng Facebook ay nahulog sa maraming mga harapan, partikular na hindi pagtagumpayan ang mga kongkretong hakbang na gagawin ng platform upang labanan ang iligal na nilalaman sa online. "Hindi ito sapat. Mabagal ito, napakababa sa mga tuntunin ng responsibilidad at regulasyon, "opined data strategies commissioner Thierry Breton after his sit-down with top Facebook executive.

Nasaan ang kasalukuyang sistema ng Facebook na bumabagal?

Ang mga higante ng Tech ay may isang medyo makitid na window kung saan upang makumbinsi ang mga patakaran ng Europa na ang kanilang sariling mga pagsisikap na hadlangan ang may problemang nilalaman ay sapat. Ang Digital Services Act ng Komisyon, ang pinakahihintay na rebisyon ng 20-taong-gulang na direktoryo ng e-commerce ng EU, ay isasalin upang mapalabas sa susunod na taon. Tulad ng nabanggit ni Breton, "kung nakikita natin na ang sariling proseso ng Facebook para sa pagbabago ng nilalaman] ay hindi ang kailangan natin patungkol sa ating sariling mga pamantayan, kakailanganin nating umayos at ilagay ito sa aming [Digital Services Act]".

Natutukoy ang Facebook na malulutas nito ang problema ng pag-moderate ng nilalaman mismo - sa pamamagitan ng paggamit ng mga pagsulong sa Artipisyal na Intelligence (AI) at pag-aaral ng makina upang mapalakas ang kasalukuyang sistema nito. Ang thorny na gawain ng pagkilala at pag-alis ng may problemang materyal ay kasalukuyang outsource sa mga propesyonal na third-party na gumagamit ng kanilang pagpapasya upang matukoy kung bakit hindi kanais-nais ang isang imahe o video.

Ang pag-asa sa nasabing pangangasiwa ng tao ay may problema dahil sa nakamamanghang kalikasan ng ilang mga moderator ng nilalaman ay napipilitang magsalin - ang katotohanan na ang mga empleyado na nagpabago ng nilalaman para sa Facebook sa Lisbon, Dublin at Warsaw ay nagpapatunay na ang kanilang trabaho ay nagbigay sa kanila ng PTSD sigurado na itaas ang mga pulang watawat. sa mga institusyong European. Bilang karagdagan, ang pagiging epektibo ng pagpapagana ng tao ay tinanong nang matapos ang Facebook ay paulit-ulit na nabigo na mabilis na alisin ang nakakapinsalang nilalaman tulad ng 2019 live streaming ng atake ng moske ng Christchurch.

Maaaring mai-plug ng AI ang ilan sa mga blind spot ng Facebook

anunsyo

Ang artipisyal na katalinuhan ay may potensyal na makabuluhang bawasan ang gayong pag-asa sa pag-moderate ng tao. Ang mga algorithm na sinanay ng pag-aaral ng machine ay maaaring suportahan ang mga moderator sa pamamagitan ng hindi lamang pagbabawas ng kanilang pagkakalantad sa mga nakakapinsalang nilalaman sa online kundi pati na rin sa pamamagitan ng pagpapalaki ng kanilang pagiging produktibo at kawastuhan. Inaangkin ng Facebook na nakakita ng mga promising na resulta sa mga eksperimento nito kasama ang AI hanggang sa-ayon sa platform, sa ikalawang kalahati ng 2019 ang platform ay pinamamahalaan ang 99.8% ng graphic content at 99.5% ng kahubaran at pagsasamantala ng bata kahit na bago pa nilagdaan ng mga gumagamit ang mga ito . Siyempre, ang teknolohiya ay nangangailangan pa rin ng finetuning - mga algorithm ng pag-moderate ng nilalaman batay sa AI na partikular na nagpupumilit sa pagkilala sa mga nuances ng pagsasalita ng poot, halimbawa - isang isyu na lalo na nababahala ang European Union.

Ano pa, ang European Union ay maingat sa payagan ang Facebook na isang libreng paghari sa pagsasamantala sa tulad ng isang sensitibong teknolohiya tulad ng AI. Ang mga pag-aalala na ito ay pangunahing mula sa hindi magandang track record ng Facebook sa pagtugon sa mga pamantayan sa transparency ng Europa - pinalalaki ang multo na ang kumpanya ay maaaring bumuo ng 'black-box algorithm' na pumipigil sa mga third-party o mga pag-awdit ng gobyerno sa platform.

Sa gitna ng digital policy - pinakawalan noong nakaraang linggo ng digital czar at hepe ng kumpetisyon ng EU, si Margrethe Vestager — ay kinokontrol kung paano ginagamit ng mga kumpanya ang artipisyal na katalinuhan. Habang nais ng EU ang mga pamahalaan na subaybayan ang mga aspeto ng riskier nito, tulad ng paggamit ng teknolohiyang pagkilala sa pangmukha, maraming mga app sa sariling bakuran ng Europa ang nagpapakita kung paano ito magagamit nang ligtas at mabisa. Maaari bang kumuha ng Facebook ang cue mula sa kanila?

Ang susunod na gen social media apps ay gumawa ng kanilang marka sa pamamagitan ng paggamit ng AI ng makabagong

Ang isang European app sa partikular ay may malikhaing artipisyal na katalinuhan upang mabigyan ang mga batang gumagamit nito ng isang mas ligtas at mas kaaya-ayang karanasan. Si Yubo, isang live-streaming app para sa edad na 13-25, ay nakasalalay sa isang balanse sa pagitan ng mga kumplikadong algorithm at turuan ang mga kabataan tungkol sa mga online na pinsala upang mapanatili ang ligtas na 20 milyong mga gumagamit sa platform. Ang isang maingat na sinanay na algorithm ay nakakakita ng mga may problemang nilalaman tulad ng kahubaran o isang tao lamang sa kanilang damit na panloob sa isang live na stream - na kung kailan sinipa ang real-time na sistema ng interbensyon ni Yubo, na nagpapadala ng isang babala na mensahe sa mga gumagamit na nagpapaliwanag kung bakit hindi kanais-nais ang gawi. Kung hindi naitama ng gumagamit ang kanilang pag-uugali, maaaring mai-shut down ang stream.

Upang matiyak na ang app ay nakalaan sa mga tinedyer at kabataan, samantala, si Yubo ay nakipagtulungan sa sikat na UK na batay sa pagkakakilanlan ng digital, na si Yoti, na tumutugma sa nai-upload na mga dokumento ng pagkakakilanlan sa mga selfies ng gumagamit na gumagamit ng software. Ang teknolohiya ni Yoti — na inilalagay din sa mga supermarket upang matiyak na ang mga under-18 ay hindi bumili ng mga pinigilan na kalakal tulad ng sigarilyo o alkohol - ay maaaring magamit ng iba pang mga social media apps sa "age-gate" ng kanilang pamayanan o upang matiyak na ang mga gumagamit ay kung sino ang sinasabi nila.

Ang mga pagtatangka ni Yubo na mag-usap ng may problemang online na nilalaman sa usbong - sa pamamagitan ng pagsasama ng katamtaman na tinutulungan ng computer sa pag-isip ng mga batang gumagamit tungkol sa mga gagawin at hindi magagandang protocol sa online - gumawa ng isang pagkakaiba-iba sa sektor ng tech. Dapat din silang magbigay ng isang nakapagpapatibay na halimbawa sa parehong mga higanteng tech tulad ng Facebook at mga regulators tulad ng European Union na ang mga platform ng social media ay maaaring hampasin ang isang malusog na balanse sa pagitan ng pagiging labis na nakasalalay sa alinman sa AI o pangasiwaan ng tao.

Ang artipisyal na katalinuhan ay hindi isang lunas-lahat para sa mga hamon na kinakaharap ng mga platform ng social media. Tulad ng hangarin ng Facebook na kumbinsihin ang EU na nagawang i-moderate ang sariling nilalaman, gayunpaman, magiging maayos itong ihain sa pamamagitan ng pagkuha ng isang cue mula sa mga bagong henerasyon ng apps na pinamamahalaan upang bumuo ng isang holistic na diskarte, isinasama ang AI, para mapanatili ang ligtas ng kanilang mga gumagamit. .

Ibahagi ang artikulong ito: