Conţinut
- Furat de mașină
- Automatizarea și întreruperea locurilor de muncă
- Fără bug-uri, fără stres - Ghidul dvs. pas cu pas pentru crearea de programe care schimbă viața fără a vă distruge viața
- Aplicații de la Consumer Electronics
- Recuperarea controlului
- Cum ar putea funcționa
Sursa: Artinspiring / Dreamstime.com
La pachet:
Pentru ca automatizarea să funcționeze cu și pentru umanitate, mai degrabă decât împotriva acesteia, avem nevoie de garanții și de oameni informați împuterniciți să oprească sau să remedieze o eroare de sistem.
„A greși este om; Pentru a îngreuna lucrurile este nevoie de un computer. ”William E. Vaughan a făcut această observație în 1969. Acordarea controlului către un sistem automat are potențialul ca sistemul să se enerveze și să provoace vătămări grave înainte de a fi verificat.
Automatizarea nu este nouă, dar devine mult mai răspândită datorită integrării sistemelor digitale și fizice. Vârful automatizării la scară este o eficiență deosebită. Dar dezavantajul de a se baza pe un sistem set-it-and-uită-este că cineva poate să nu reușească să-l stabilească corect.
Cu un sistem care pur și simplu nu se execută fără intervenție și nici o modalitate de oprire a utilajelor, puteți avea efecte distructive. În consecință, tehnologia poate crea tipul de situație prezentat în „Ucenicul vrăjitorului”, când ceea ce pare să facă viața mai ușoară scapă de sub control.
Furat de mașină
Automatizarea fără intervenție este cea care a determinat ca un lucrător tehnologic din U.K. să se fi aflat dintr-un loc de muncă fără nicio cauză anul trecut. Ibrahim Diallo a observat că cărțile de autorizare de securitate nu lucrau la locul de muncă și a venit să descopere că se datora faptului că era fără un loc de muncă. „The Machine Fired Me” este titlul pe care l-a acordat postării sale extinse pe blog la eveniment.
În cele din urmă, cauza rezilierii Diallo nu a fost un fel de evaluare a algoritmului care a determinat cine ar trebui eliminat. Problema nu se afla în sistem, ci a fost una de eroare umană. În acest caz, a fost tot răspunsul automat la eșecul omului de a introduce informațiile privind reînnoirea contractului Diallo.
Nu mașina a decis să fie concediat pentru ceva anume. Pur și simplu a efectuat pașii programați în ea pentru cineva al cărui statut a apărut ca nu mai este angajat. După cum explică el în comentarii, acesta nu este într-adevăr AI, ci „script automat”. (Pentru a afla cum poate ajuta AI (în loc de rău) în companii, verificați ce poate face AI pentru Enterprise.)
Automatizarea și întreruperea locurilor de muncă
Acest tip de efect nu este exact ceea ce oamenii privesc atunci când descriu avantajele minunate pe care le putem anticipa într-un viitor automatizat. Obișnuitele perspective optimiste pentru o schimbare a locurilor de muncă pe măsură ce sarcinile sunt preluate de automatizare, lucrările vor fi redefinite - nu terminate de sisteme automatizate. Dar realitatea este că unele locuri de muncă vor fi eliminate, iar persoanele care le-au deținut nu vor fi în mod necesar să facă o tranziție perfectă către noile cariere într-o industrie în mare parte automată.
Întreruperea locurilor de muncă este unul dintre riscurile mai minore pe care Elon Musk le-a avut în vedere pentru creșterea AI, deși propria viziune a impactului asupra locurilor de muncă este mult mai pesimistă decât Fitzgerald. În opinia lui Musk, AI are nevoie de reglementări stricte, deoarece reprezintă „un risc fundamental și existențial pentru civilizația umană”.
Fără bug-uri, fără stres - Ghidul dvs. pas cu pas pentru crearea de programe care schimbă viața fără a vă distruge viața
Nu îți poți îmbunătăți abilitățile de programare atunci când nimeni nu îi pasă de calitatea software-ului.
Aplicații de la Consumer Electronics
În ciuda propriilor acreditări tehnologice ale Musk, unii experți în domeniu precum Rodney Brooks, care a fost directorul fondator al MIT's Computer Science and Artificial Intelligence Lab și au cofondat atât iRobot cât și Rethink Robotics, spun că Musk este greșit în legătură cu această amenințare a AI și modul în care robotica funcționează de fapt.
Într-un interviu acordat companiei TechCrunch, Brooks a indicat că este nechibzuit să solicităm reglementări fără ca tehnologia să fie maturizată până la punctul în care putem identifica exact ceea ce trebuie reglementat. El a contestat Musk: „Spune-mi, ce comportament vrei să schimbi, Elon?”
Brooks a recunoscut că roboții vor genera deplasarea la locul de muncă. Dar, de asemenea, consideră că este posibil să se schimbe paradigma industriei pentru a o urma pe cea a electronicelor de consum.
Modul în care l-a înscris în interviul TechCrunch a fost: „Avem o tradiție în fabricarea echipamentelor, că are interfețe de utilizator oribile și este greu și trebuie să urmezi cursuri, în timp ce în electronica de consum, am făcut ca mașinile pe care le folosim să le învățăm pe oameni cum să le folosesc.
Acesta a spus că ar trebui să fie obiectivul pentru schimbarea modului în care ne raportăm la „echipamente industriale și alte tipuri de echipamente, pentru a face ca mașinile să învețe oamenii cum să le folosească.”
Recuperarea controlului
Ceea ce sugerează Brooks ne poate îndrepta către direcția unei soluții la problema erorii umane care oprește procesul automat care pare să nu izbucnească. Pentru a ne referi la nefericirea lui Mickey din „Ucenicul vrăjitorului”, problema provine de la persoana care activează sistemul, dar nu are o modalitate reală de a comunica cu acesta pentru a-l opri sau a schimba direcția.
Dar dacă interfața este realizată de-a lungul liniilor electronice de consum, mai degrabă decât a modelelor industriale tradiționale, aceasta ar putea literalmente readuce controlul în mâinile omului. Pentru a fi cu adevărat eficientă, interfața nu trebuie să fie doar accesibilă, ci proiectată pentru a menține oamenii în pas cu privire la ceea ce se întâmplă, oferind date despre actualizările pe care le-a primit și ce acțiuni a întreprins.
Cum ar putea funcționa
În cazul rezilierii accidentale a Diallo, asta ar însemna că sistemul automat nu l-ar bloca doar din sistem și apoi ar oferi recrutorului său că a fost reziliat. În primul rând, ar recunoaște că reînnoirea contractului nu a fost inclusă la data prevăzută. Înainte de a începe acțiunile de reziliere, aceasta ar oferi comisiei și recrutorului actualizarea cu privire la lipsa reînnoirii și a consecințelor care ar urma în decursul zilei dacă nu se întreprinde nicio acțiune.
Acest tip de alertă ar permite oamenilor să ia decizii în cunoștință de cauză dacă să permită continuarea automatizării sau să intervină pentru a remedia eroarea umană care a fost cauza inițială a problemei. Dar oamenii trebuie, de asemenea, să-și facă partea, să răspundă la alertă și să ia măsurile adecvate. Cu alte cuvinte, răspunsul la întrebarea pe care Brooks a pus-o despre comportament se aplică oamenilor; trebuie să fie mai puțin pasivi în fața automatizării. (Pentru mai multe detalii despre modul în care oamenii și mașinile pot funcționa în mod cooperat, consultați Canalizarea elementului uman: politică, procedură și proces.)
După cum a scris Diallo în secțiunea de comentarii a blogului său, motivul pentru care acest lucru a reușit să ajungă la punctul în care a făcut-o a fost acela că oamenii au refuzat să meargă împotriva mașinii:
Un alt lucru care este trecut cu vederea este faptul că, deși toată lumea știa că a fost o eroare umană care a declanșat-o și că a fost doar o greșeală, au ales să urmeze s. Este ca și cum ar fi pus un semn „permis fumat” la spital, iar oamenii respectă semnul în loc să folosească bunul simț.
În consecință, politicile pe care trebuie să le adoptăm pentru ca automatizarea să funcționeze cu și pentru umanitate, mai degrabă decât împotriva acesteia, sunt duble: pe partea mașinii, avem nevoie de interfețe accesibile și informative, iar pe partea umană, avem nevoie de oameni pentru a fi împuternicit să identifice când ceva nu este corect și să intervină pentru a-l rectifica.