Implicacions de ChatGPT

En ciberseguretat

Check Point Research i altres van assenyalar que ChatGPT era capaç d'escriuresuplantació d'identitat (phishing)correus electrònics iprogramari maliciós, sobretot quan es combina ambOpenAI CodexEl CEO d'OpenAI va escriure que els avenços en el programari podrien suposar «(per exemple) un enorme risc de ciberseguretat» i també va continuar predient que «podríem arribar a una veritable AGI (intel·ligència artificial general) en la propera dècada, així que hem de prendre'ns el risc extremadament seriosament". Altman va argumentar que, si bé ChatGPT "òbviament no s'acosta a AGI", s'hauria de "confiar en elexponencialMirant cap enrere,vertical mirant cap endavant.”

En el món acadèmic

ChatGPT pot escriure seccions d'introducció i resum d'articles científics, cosa que planteja qüestions ètiques. Diversos articles ja han inclòs ChatGPT com a coautor.

EnL'Atlànticrevista,Esteve Marcheva assenyalar el seu efecte en el món acadèmic i, especialment,assaigs de sol·licitudencara no s'ha entès. El professor de secundària i autor de Califòrnia, Daniel Herman, va escriure que ChatGPT marcaria el començament de la "fi de l'anglès a l'escola secundària".Naturarevista, Chris Stokel-Walker va assenyalar que els professors haurien d'estar preocupats pels estudiants que utilitzen ChatGPT per externalitzar la seva escriptura, però que els proveïdors d'educació s'adaptaran per millorar el pensament o el raonament crític. Emma Bowman ambNPRva escriure sobre el perill que els estudiants plagien mitjançant una eina d'IA que pot generar text esbiaixat o sense sentit amb un to autoritari: "Encara hi ha molts casos en què fas una pregunta i et donarà una resposta que sona molt impressionant però que és completament errònia".

Joanna Stern ambEl Wall Street Journalva descriure fer trampes en anglès de secundària americana amb l'eina presentant un assaig generat. El professor Darren Hick deUniversitat de Furmanva descriure haver notat "l'estil" de ChatGPT en un treball presentat per un estudiant. Un detector de GPT en línia afirmava que el treball tenia una probabilitat del 99,9% d'estar generat per ordinador, però Hick no tenia cap prova sòlida. Tanmateix, l'estudiant en qüestió va confessar haver utilitzat GPT quan se li va enfrontar i, com a conseqüència, va suspendre el curs. Hick va suggerir una política de fer un examen oral individual ad hoc sobre el tema del treball si se sospita fermament que un estudiant ha presentat un treball generat per IA. Edward Tian, ​​un estudiant de darrer any de grau aUniversitat de Princeton, va crear un programa, anomenat "GPTZero", que determina quina part d'un text està generada per IA, cosa que es presta a ser utilitzat per detectar si un assaig està escrit per humans per combatreplagi acadèmic.

A partir del 4 de gener de 2023, el Departament d'Educació de la ciutat de Nova York ha restringit l'accés a ChatGPT des d'Internet i els dispositius de les seves escoles públiques.

En una prova cega, es va considerar que ChatGPT havia aprovat els exàmens de nivell de postgrau aUniversitat de Minnesotaal nivell d'un estudiant de C+ i aEscola Wharton de la Universitat de Pennsilvàniaamb una qualificació de B a B-. (Viquipèdia)

La propera vegada parlarem de les preocupacions ètiques del ChatGPT.