Direktor za različitost u Microsoftu kaže da različitost i ulaganje u radnu snagu mogu pomoći u rešavanju problema pristrasnosti u AI-ju.
Početkom 2023. godine, Microsoft se suočio s PR krizom. Kompanija je radila na demonstriranju svog napretka u veštačkoj inteligenciji nakon višemilijarderskog ulaganja u OpenAI, tvorca ChatGPT-a. U svoj pretraživač Bing dodali su chatbot pokretan AI-jem, čime su postali jedna od prvih tehnoloških kompanija koja je u svoje vodeće proizvode uvela veštačku inteligenciju. Međutim, čim su korisnici počeli da ga koriste, stvari su krenule po zlu. Novinar New York Times-a izazvao je međunarodno interesovanje zbog razgovora s Bingom, nakon kojeg je ostao „duboko uznemiren“. Ubrzo su korisnici počeli deliti snimke ekrana koji su pokazivali kako alat koristi rasne uvrede i najavljuje planove za dominaciju svetom. Microsoft je brzo najavio rešenje, ograničavajući odgovore i mogućnosti AI-a. U narednim mesecima, kompanija je zamenila Bing chatbot sa Copilot-om, koji je sada dostupan kao deo Microsoft 365 softvera i Windows operativnog sistema.
Microsoft nije jedina kompanija koja se suočava s kontroverzama u vezi sa AI-jem, a kritičari kažu da je ovaj slučaj dokaz šire nepažnje u vezi s opasnostima veštačke inteligencije unutar tehnološke industrije. Na primer, Google-ov alat Bard je poznato dao netačan odgovor na pitanje o teleskopu tokom javne prezentacije uživo, što je obrisalo 100 milijardi dolara vrednosti kompanije. AI model, sada nazvan Gemini, kasnije je kritikovan zbog „woke“ pristrasnosti, nakon što alat nije želeo da prikaže slike belaca za određene upite.
Ipak, Microsoft tvrdi da AI može biti alat za promovisanje jednakosti i zastupljenosti – uz odgovarajuće mere opreza. Jedno od rešenja koje predlažu za rešavanje problema pristrasnosti u AI-ju je povećanje različitosti i inkluzije u timovima koji razvijaju ovu tehnologiju.
„Nikada nije bilo važnije, kako razmišljamo o izgradnji inkluzivnog AI-ja i inkluzivne tehnologije za budućnost,“ kaže Lindsay-Rae McIntyre, direktor za različitost u Microsoftu, koja je kompaniji pristupila 2018. godine. Bivša učiteljica za gluve, McIntyre ima više od 20 godina iskustva u ljudskim resursima u tehnološkoj industriji, uključujući rad u IBM-u, a živela je i radila širom SAD-a, Singapura i Dubaija. Sada kaže da se njen tim u Microsoftu sve više fokusira na integrisanje praksi inkluzije u istraživanje i razvoj veštačke inteligencije kompanije kako bi se osigurala bolja zastupljenost „na svim nivoima kompanije“. Za ovaj fokus postoji dobar razlog. Prihvatanje AI proizvoda unelo je novi život u skoro 50 godina star brend. U julu je kompanija izvestila o rastu prihoda za 15% na 64,7 milijardi dolara, uglavnom zahvaljujući rastu Azure cloud biznisa, koji je u velikoj meri profitirao od AI buma jer korisnici obučavaju svoje sisteme na toj platformi.
Ovi napori takođe približavaju kompaniju njenom dugogodišnjem cilju da izgradi tehnologiju „koja nas razume“, kako je to nedavno rekao njen izvršni direktor Satya Nadella. Ali da bi AI – ili preciznije veliki jezički modeli poput ChatGPT-a – bili empatični, relevantni i tačni, McIntyre kaže da ih mora obučavati raznolika grupa programera, inženjera i istraživača. Ovo možda neće biti garantovano rešenje. Veliki jezički modeli koji su temelj alata kao što su Copilot, ChatGPT i Gemini grade se pretraživanjem masivnih skupova podataka sa interneta. Ako je pristrasnost prisutna u podacima za obuku, izuzetno je teško sprečiti da se pojavi kasnije, što je posebno zabrinjavajuće kako se veštačka inteligencija koristi u stvarnom svetu.
Kompanije prihvataju AI alate za pomoć pri zapošljavanju, na primer, ali stručnjaci upozoravaju da mogu pojačati rasne i polne pristrasnosti dok filtriraju kandidate. Nedavno istraživanje MIT-a pokazalo je da je AI tumačio zanimanja poput „stjuardesa“, „sekretara“ i „asistenta lekara“ kao ženska zanimanja, dok su „ribolovac“, „advokat“ i „sudija“ označeni kao muška zanimanja. Takođe je emocije poput „anksiozan“, „depresivan“ i „uništen“ označio kao ženske. U međuvremenu, neke policijske službe u SAD-u počele su koristiti AI za pisanje izveštaja o zločinima.
Ipak, Microsoft veruje da AI može podržati različitost i inkluziju (D&I) ako se ti ideali ugrade u AI modele od samog početka. Kompanija tvrdi da je inkluzija oduvek bila veliki deo njene kulture, od Xbox Adaptive Controller-a dizajniranog za korisnike sa posebnim potrebama do brojnih funkcija pristupačnosti u Microsoft 365 proizvodima. Ali pritisak da drže korak sa brzinom i razmerom rasta AI-ja pojačava potrebu Microsofta da investira u svoju različitost. U svom izveštaju o različitosti za 2023. godinu, Microsoft je izvestio da je oko 54,8% njegove osnovne radne snage sastavljeno od rasnih i etničkih manjina, što je delimično u skladu sa rivalima kao što su Apple i Google. U međuvremenu, u Microsoftovoj radnoj snazi ima 31,2% žena, što je nekoliko procenata manje u poređenju sa Apple-om i Google-om. U nastavku, McIntyre razgovara sa BBC-jem o rešavanju pristrasnosti u generativnom AI-ju, o tome kako inkluzivno savezništvo izgleda u različitim kulturama i šta Microsoft radi kako bi osigurao da njegov sopstveni talent može pratiti brzi razvoj veštačke inteligencije.
Kako Microsoft rešava pristrasnost u generativnom AI-ju koja pogađa ove vrste alata?
Ogromno ulažemo u to, ali takođe kroz sav naš rad provlačimo obrazovanje o elementima poput pristrasnosti i inkluzije. Microsoft veruje da AI tehnologije treba da funkcionišu pravedno. Nastavljamo da ulažemo u istraživanja kako bismo identifikovali, merili i ublažili različite vrste šteta povezanih sa pravednošću, i inoviramo na nove načine da proaktivno testiramo naše AI sisteme, kako je navedeno u našem Standardu odgovorne AI tehnologije. Da bismo to postigli, Microsoft sarađuje sa širokim spektrom stručnjaka, uključujući antropologe, lingviste i društvene naučnike – svi oni donose dragocene perspektive koje unapređuju i izazivaju razmišljanje naših inženjera i programera. Kako bismo razvili i implementirali AI sisteme na odgovoran način, stavljamo D&I u centar, osiguravajući da je širok spektar pozadina, veština i iskustava zastupljen u Microsoft timovima koji zamišljaju i grade AI, tako da je razvijen na način koji je inkluzivan za sve korisnike. Takođe osiguravamo da naši lideri, koji donose odluke o ovim timovima i proizvodima, imaju alate da razumeju pitanja privilegija, moći i pristrasnosti.
Microsoft je ovog leta naišao na kritike nakon izveštaja da je ukinuo svoj tim za različitost i inkluziju. Kompanija je kasnije pojasnila da je tim ostao netaknut. Da li je došlo do promene u posvećenosti kompanije ovom pitanju?
Imamo veliku sreću što je posvećenost Microsofta različitosti i inkluziji nepromenjena. Proširujemo se. U tom medijskom ciklusu, podsetila sam se koliko ljudi zavisi od toga da Microsoft ima inkluzivnu tehnologiju, kako bi osigurali da nastavljamo da budemo na čelu iskustava različitosti i inkluzije, da delimo svoja saznanja i da slušamo kako drugi ljudi doživljavaju ovaj trenutak u industriji. Ne zato što znamo više od bilo koga drugog – jer sigurno ne znamo, stalno učimo – već zato što imamo resurse koje nemaju sve kompanije.
Izvor vesti: IT Network