_ Întrebări și răspunsuri: Cercetătorii avertizează de pericol, cereți o pauză în aducerea inteligenței artificiale în școli

În școlile K-12 din toată țara, o nouă goană a aurului este în desfășurare: sălile de clasă la nivel național se întrec pentru a aduce cele mai recente instrumente de inteligență artificială, cum ar fi platforme alimentate de botul de chat ChatGPT, în sala de clasă.

Alex Molnar, director al Centrului Național de Politică Educațională (NEPC) la CU Boulder, vede un pericol în această grabă de a introduce AI în școli. Aceste platforme, a spus el, folosesc algoritmi opaci și, de obicei, proprietari — făcându-și funcționarea interioară misterioasă pentru educatori, părinți și studenți deopotrivă.

„Ceea ce aveți este un buzunar plin de promisiuni pe care AI le va îndeplini așa cum a promis.” a spus Molnar, profesor de cercetare la Școala de Educație. „Problema este că în prezent nu există nicio modalitate de a evalua independent afirmațiile făcute.”

Într-un nou raport, Molnar și colegii săi evidențiază potențialele capcane ale AI în educație și solicită o „pauză” nedefinită. în integrarea AI în învățarea K-12. Printre coautorii s-au numărat Ben Williamson de la Universitatea din Edinburgh din Regatul Unit și Faith Boninger, profesor asistent de cercetare în domeniul educației la CU Boulder.

Molnar își spune de ce AI este un pariu riscant pentru educație – și ce pot face părinții și ceilalți îngrijorați pentru a se implica.

Au existat tot felul de probleme asociate cu utilizarea platformelor digitale în școli, chiar înainte de adoptarea pe scară largă a inteligenței artificiale.

Datele elevilor adesea nu sunt protejate corespunzător. De exemplu, au existat tot felul de scurgeri de la furnizori terți și nu există nicio lege sau o politică eficientă care să-i tragă la răspundere. De asemenea, aveți o mulțime de teste beta în școli. Afirmațiile de marketing sună bine, dar platformele digitale adesea nu produc rezultatele promise și sunt pline de probleme tehnice.

Tehnologiile digitale au făcut dificil sau imposibil să se răspundă la întrebări fundamentale, cum ar fi: Cine decide curriculumul conținut care este integrat în aceste platforme? Cine le revizuiește munca?

Toate problemele legate de tehnologiile digitale tind să fie amplificate de inteligența artificială.

Așa-numita IA folosește algoritmi și cantități masive de putere de calcul pentru a produce rezultate bazat pe nenumărate calcule de probabilităţi. De exemplu, care este probabilitatea ca următorul cuvânt dintr-o secvență să fie „suc”? Aceste calcule nu produc „adevăr” sau chiar, în mod necesar, acuratețe. Ele produc rezultate probabilistice.

În prezent, construcția și funcționarea algoritmilor AI se află în mare parte în afara vederii publice și fără nicio responsabilitate publică. Cu toate acestea, oamenii din școală sunt împinși, atât de către agenții de marketing, cât și de către entitățile guvernamentale, să fie văzuți ca fiind în fruntea acestei presupuse revoluții digitale - preluând tot mai multe procese școlare către tehnologi cu puține sau deloc cunoștințe de pedagogie sau curriculum școlar.

Pentru a folosi o explicație din lumea veche, imaginați-vă dacă ați spune: „Aș dori să văd manualul de geografie al copilului meu”. Ai putea spune: „Am câteva probleme aici”. Ai putea vorbi cu cineva despre asta, cineva care ar putea explica aceste probleme. Dar cu AI, nu poți face asta.

Nu poți să intri și să spui, de exemplu, „Cum a funcționat scorul la acest lucru?” Răspunsul ar fi: „Ei bine, nu știm”. „De unde știm că acest conținut este corect?” „Ei bine, nici noi nu știm asta.”

Puteți folosi AI pentru a vă ajuta să determinați dacă un copil a înșelat. Îl folosești pentru a determina dacă un copil ar trebui să fie sau nu în acest program sau în acel program. Puteți folosi inteligența artificială pentru a decide tot felul de lucruri despre un copil, iar copilul este blocat fără nicio cale de recurs.

Părinții se pot plânge tot ce doresc. Încă nu pot obține informații despre baza unei decizii luate de AI, deoarece directorul nu o are. Profesorul nu o are. Superintendentul nu o are. Este ascuns în spatele unei perdele de proprietate de către un furnizor privat.

Soluția ar fi ca legislatorii de stat să spună, prin statut, în esență: școlile publice din acest stat nu pot adopta programe de inteligență artificială decât dacă și până când acestea programele sunt certificate de această entitate guvernamentală – ar trebui să creeze entitatea. A revizuit aceste programe. S-a spus că sunt sigure pentru utilizare și definește care sunt utilizările adecvate ale programului și pentru cine.

Cu alte cuvinte, nimic nu se întâmplă în școli până când nu avem cadrul statutar și de reglementare și instituțional. capacitatea de a evalua în mod independent platformele AI care sunt propuse pentru utilizarea în școli.

Solicitați ca reprezentanții dvs. să ia în serios aceste probleme – în primul rând, să legifereze o pauză în adoptarea IA în școli. Perioadă. Apoi, ei pot cere reprezentanților lor să creeze o entitate de stat care este concepută să reglementeze utilizarea IA în școli.

Aceasta este o problemă politică. Aceasta nu este o problemă tehnică.

Avem o lungă istorie de companii de tehnologie care nu își respectă propriile reguli, care sunt ele însele ridicol de inadecvate. Pentru oricine încearcă serios să-și dea seama cum să folosească AI în mod responsabil în educație, dacă nu vorbesc de acțiune politică, nu vorbesc cu adevărat. Tehnologii nu ne vor salva.

(Fluierul)