Conţinut
Prezentat de: AltaML
Î:
De ce unele companii au în vedere adăugarea de „controale de feedback uman” la sistemele moderne AI?
A:
Unele companii care lucrează cu tehnologie AI de ultimă oră lucrează la instituirea controalelor umane pentru aceste sisteme, oferind instrumentelor de învățare automată și învățare profundă unele supraveghere umană directă. Aceste companii nu sunt jucători mici - DeepMind-ul Google și OpenAI-ul lui Elon Musk sunt două exemple de companii majore care se ocupă de progresul în domeniul inteligenței artificiale. În acest sens, rezultatele diferă - de exemplu, DeepMind a fost subiectul unor controverse pentru dorința sa percepută de a furniza date cheie publicului, în timp ce OpenAI este mult mai bine, bine, deschis despre munca sa privind controlul inteligenței artificiale.
Chiar și astfel de note precum Bill Gates au cântărit în această privință, Gates afirmând că este unul dintre mulți care sunt preocupați de apariția unei superinteligențe artificiale care, în unele moduri, pot trece dincolo de controlul uman. Musk, la rândul său, a lansat, de asemenea, câteva limbaje alarmante despre posibilitatea „AI necinstite”.
Acesta este probabil cel mai urgent motiv pentru care companiile lucrează pentru aplicarea controalelor umane pe AI - ideea că o anumită singularitate tehnologică va avea ca rezultat o tehnologie senzientă super-puternică pe care oamenii pur și simplu nu o mai pot controla. Încă din zorii ambițiilor umane, am pus la dispoziție instrumente pentru a ne asigura că putem controla puterile pe care le purtăm - fie că este vorba de cai cu frâie și hamuri, electricitate în fire izolate sau orice alt tip de mecanism de control, având controlul este o funcție umană înnăscută și, prin urmare, are tot sensul în lume că, pe măsură ce inteligența artificială se apropie de funcționalitatea reală, oamenii aplică propriile controale directe pentru a menține această putere sub control.
Totuși, frica de roboți super-inteligenți nu este singurul motiv pentru care companiile aplică controale umane pentru învățarea mașinilor și proiectelor AI. Un alt motiv major este prejudecata mașinii - aceasta este ideea că sistemele de inteligență artificială sunt adesea limitate în modul în care evaluează datele în cauză - astfel încât amplifică orice prejudecată inerentă sistemului. Cei mai mulți profesioniști care se ocupă de învățarea automată pot spune povești de groază despre sisteme IT care nu au fost capabili să trateze grupuri de utilizatori umani deopotrivă - indiferent dacă a fost vorba de diferență de gen sau etnie sau un alt eșec al sistemului de a înțelege cu adevărat nuanțele societăților noastre umane și cum interacționăm cu oamenii.
Într-un anumit sens, s-ar putea să punem controale umane pe sisteme, deoarece ne temem că ar putea fi prea puternice - sau alternativ, pentru că ne este frică să nu fie suficient de puternice. Controalele umane ajută la orientarea seturilor de date de învățare a mașinilor pentru a oferi mai multă precizie. Ele ajută la consolidarea ideilor pe care computerul pur și simplu nu le poate învăța singur, fie pentru că modelul nu este suficient de sofisticat, pentru că AI nu a avansat destul de departe sau pentru că unele lucruri se află doar în provincia cogniției umane. Inteligența artificială este excelentă pentru unele lucruri - de exemplu, un sistem bazat pe recompense și punctaje a permis unei inteligențe artificiale să bată un jucător uman la jocul de masă „Go” imens complex - dar pentru alte lucruri, acest sistem bazat pe stimulente este cu totul inadecvate.
Pe scurt, există numeroase motive convingătoare pentru a menține utilizatorii umani direct implicați în modul în care funcționează proiectele de inteligență artificială. Chiar și cele mai bune tehnologii de inteligență artificială pot să gândească singure - dar fără un creier uman biologic care poate prelucra lucruri precum emoțiile și comportamentele sociale, pur și simplu nu pot vedea imaginea cea mai mare într-un mod uman.
O companie calificată de învățare a mașinilor poate ajuta la atingerea acestui echilibru cu un amestec de experți în afaceri și subiecte și dezvoltatorii de învățare automată cu abilități de a rezolva mari probleme de afaceri.
