Conţinut
- Ce este un nume?
- Dacă calculatoarele ar putea vorbi, cum ar trebui să sune?
- Fără bug-uri, fără stres - Ghidul dvs. pas cu pas pentru crearea de programe care schimbă viața fără a vă distruge viața
- Ce spun vocea și expresiile lui Siri despre noi
- Tehnologia poate avea avansuri, dar femeile ... Nu atât
- Foarte puține femei lucrează în AI
- Calea înainte
Sursa: Idey / Dreamstime.com
La pachet:
Există dovezi ale unei probleme persistente de părtinire în AI care ar putea fi unul dintre motivele pentru care vedem stereotipuri de gen manifestate în identitățile feminine asociate cu asistenții AI.
Te-ai întrebat vreodată de ce Alexa nu este Alex, ceea ce ar putea fi de fapt un porecl pentru oricare dintre sexe? Este într-adevăr ironic că o companie cu un nume derivat dintr-o rasă feroce războinică de femei tocmai s-a încadrat în practica standard de a arunca asistentul care ia comenzi de la utilizator ca femeie.
Ce este un nume?
De fapt, numele agentului AI provine din Alexandria, un oraș a cărui pretenție faimoasă în lumea antică era biblioteca sa, potrivit lui Daniel Rausch, șeful diviziei „Smart Home” a Amazonului. El a spus pentru Business Insider că este să surprindem ideea colecției originale de volume care adăpostea „toate cunoștințele colective ale lumii în acel moment”.
Dar ei ar fi putut considera la fel de ușor faptul că orașul a fost numit pentru Alexandru cel Mare și a plecat cu numele Alex, porecla adoptată de bărbați și femei. În schimb, au mers cu Alexaul extrem de feminin.
Amazon nu este singur în acest sens. Apple a ales Siri drept numele pentru asistentul său vocal, care vorbește cu voce feminină. O identitate feminină a fost, de asemenea, selectată pentru Cortana Microsoft. Nu pare să fie doar o coincidență că cele trei cele mai cunoscute identități AI sunt de sex feminin.
Probabil companiile au făcut același tip de cercetare de piață pe care Amazon a spus-o. (Pentru partea nu atât de serioasă a Siri, consultați Pardon Moi? Top Siri Fail.)
Dacă calculatoarele ar putea vorbi, cum ar trebui să sune?
În interviul pentru Business Insider, Rausch a spus că „au descoperit că vocea unei femei este mai„ simpatică ”și mai bine primită.” Articolul a continuat să spună că această preferință pentru vocile feminine precedă asistențele AI.
Acesta ar putea fi motivul pentru care computerul de pe Enterprise a vorbit cu voce feminină. Vocea a fost de fapt cea a lui Majel Barrett-Roddenberry, soția creatoarei serialului „Star Trek” și cea mai recunoscută de fani pentru rolul ei recurent ca asistentă blondă perfect coifată, Christine Chapel, care a trebuit să preia cu atenție ordinele de la Dr. McCoy.
În videoclipul de mai jos, ea oferă de fapt voce unei biblioteci, pentru a împărtăși informațiile din dosar pentru persoana pe care o întreabă căpitanul.
Fără bug-uri, fără stres - Ghidul dvs. pas cu pas pentru crearea de programe care schimbă viața fără a vă distruge viața
Nu îți poți îmbunătăți abilitățile de programare atunci când nimeni nu îi pasă de calitatea software-ului.
Adevărat, există agenți AI care sunt legați de identitățile de sex masculin, așa cum a observat Chandra Steele, de la PC Mag Mag, pe un blog mediu anul acesta. Dar, de obicei, sunt legate de sarcini mai grave decât cele relevate de asistentul virtual de pe desktop sau telefon. În consecință, Watson de la IBM, care este asociat cu lucruri precum cercetarea medicală, a primit „vocea care suna masculin” pe care oamenii o asociază cu încredere și conducere.
În schimb, vocile feminine sunt asociate cu cordialitate și plângere. „Deși le lipsește corpul”, a explicat Steele, „întruchipează ceea ce gândim când imaginăm un asistent personal: o femeie competentă, eficientă și de încredere.”
Uneori li se acordă chiar un corp virtual feminin, cel puțin unul care apare pe ecran. Acesta este cazul agentiei cognitive Amelia a IPsoft. După cum puteți vedea în videoclipul de mai jos, ea este arătată ca o blondă destul de tânără (culoarea părului Barrett-Roddenberry și-a vopsit părul pentru rolul vizibil de asistentă).
Amelia întruchipează femeia de încredere care îl susține pe cel care se ocupă, în fundal, dar și doar puțin decorativ. Ea se gândește la asistentul ideal prevăzut în anii '50. La fel ca Della Street, a lui Perry Mason, secretara fără credință, este întotdeauna acolo pentru a răspunde nevoilor șefului său bărbat și nu refuză nici o cerere sau sarcină.
Ce spun vocea și expresiile lui Siri despre noi
Se presupune că am făcut progrese semnificative în ceea ce privește egalitatea de gen de la mijlocul secolului trecut, dar asistenții AI ne reamintesc că mai avem un drum lung de parcurs. Acesta a fost în centrul atenției unui studiu recent UNESCO intitulat „I’d Blush If Iould.”
Titlul studiului este o propoziție pe care asistenta vocală de sex feminin a Apple, Siri, a fost inițial programată să spună ca răspuns la utilizatorii care o numeau sexistă. Vestea bună este că Apple a actualizat programarea lui Siri la începutul anului 2019 pentru a oferi acum un sistem mai adecvat „Nu știu cum să răspund la asta” atunci când cineva face o astfel de declarație agentului AI.
Cu toate acestea, după cum subliniază raportul, Apple a lăsat-o să stea pentru o perioadă foarte lungă de timp, considerând că Siri a fost lansat în 2011, acesta fiind punctul central al problemei.
Tehnologia poate avea avansuri, dar femeile ... Nu atât
După cum subliniază raportul, „consecința„ feminină ”a lui Siri - și utilitatea exprimată de atât de mulți alți asistenți digitali proiectați ca femei tinere - oferă o ilustrare puternică a prejudecăților de gen codificate în produse tehnologice, pervasive în sectorul tehnologiei și evidente în abilitățile digitale. educaţie."
Raportul include sexismul înglobat în identitatea feminină a AI și răspunsurile programate ca urmare a decalajului sistemic de gen în tehnologie în general și în special în IA, în special: „Astăzi, femeile și fetele au mai puțin de 25% decât bărbații să știe să utilizeze numărul digital. tehnologie în scopuri de bază, de 4 ori mai puțin probabil să știe să programeze calculatoarele și de 13 ori mai puțin probabil să depună un brevet tehnologic. "
Foarte puține femei lucrează în AI
Acest lucru se potrivește cu concluziile sistemelor de discriminare ale Institutului AI Now: Gen, Rasă și Putere. La conferințele AI, femeile reprezintă doar 18% dintre autorii reprezentați și mai puțin de 20% din profesorii AI. Reprezentarea este și mai rea în industrie. La femei dețin doar 15% din posturile de personal de cercetare, iar la Google procentul scade la 10.
Așa cum sunt aceste numere, acestea sunt mai bune decât ceea ce spune raportul UNESCO despre solicitanții unor astfel de poziții: „Recrutorii pentru companii de tehnologie din Silicon Valley estimează că grupul de solicitanți pentru joburi tehnice în inteligență artificială (AI) și știința datelor este adesea mai puțin mai mult de 1 la sută de femei.
Există consecințe grave pentru acest dezechilibru, potrivit raportului UNESCO: „Deoarece bărbații continuă să domine acest spațiu, disparitatea nu servește decât la perpetuarea și agravarea inegalităților de gen, întrucât prejudecata nerecunoscută este replicată și încorporată în algoritmi și inteligență artificială.”
Acesta explică faptul că „echipele dominate de bărbați” sunt cele care stabilesc criteriile care stabilesc o normă care „poate fi greu de rezolvat atunci când se evidențiază prejudecățile de gen”. Problema prejudecății AI a fost abordată în AI's Got Some Explaining to Do . AI nu creează prejudecata, ci reflectă prejudecățile programării sale.
„Nu există nimic artificial despre AI”, a declarat Fei-Fei Li, expert în domeniu. „Este inspirat de oameni, este creat de oameni și - cel mai important - are impact asupra oamenilor”. Așa cum „gunoiul, gunoiul” se aplică tuturor datelor, același lucru este valabil în ceea ce înseamnă ea, „părtinire, părtinire”. pentru sisteme AI.
Calea înainte
Deci, cum putem depăși astfel de prejudecăți care au fost încorporate în funcțiile noastre de învățare automată și să ne modelăm în continuare așteptările? Răspunsul, potrivit raportului UNESCO, este educația: „Educația este acolo unde se creează așteptările și se cultivă competențele.”
Li este de acord că este posibil să remodelăm calea setată. „Cu o îndrumare adecvată, AI va îmbunătăți viața”, afirmă ea. „Dar fără ea, tehnologia înseamnă să lărgească și mai mult diviziunea de avere, să facă tehnologia și mai exclusivă și să consolideze prejudecățile pe care le-am petrecut generații încercând să le depășească.”
Este timpul să mergeți cu îndrăzneală acolo unde omul nu a mai trecut.