Implicacions de ChatGPT

En ciberseguretat

Check Point Research i altres van assenyalar que ChatGPT era capaç d'escriurephishingcorreus electrònics iprogramari maliciós, sobretot quan es combina ambCòdex OpenAI.El CEO d'OpenAI va escriure que l'avenç del programari podria suposar "(per exemple) un gran risc de ciberseguretat" i també va continuar predint que "podríem arribar a un AGI real (intel·ligència general artificial) en la propera dècada, així que ens hem de prendre el risc d'això molt seriosament”.Altman va argumentar que, tot i que ChatGPT "òbviament no està a prop d'AGI", cal "confiar en elexponencial.Plana mirant enrere,vertical mirant cap endavant.”

En el món acadèmic

ChatGPT pot escriure seccions d'introducció i resums d'articles científics, cosa que planteja qüestions ètiques.Diversos articles ja han enumerat ChatGPT com a coautor.

EnL'Atlànticrevista,Stephen Marcheva assenyalar que el seu efecte en el món acadèmic i especialmentassaigs d'aplicacióencara està per entendre.El professor i autor de secundària de Califòrnia, Daniel Herman, va escriure que ChatGPT marcaria "el final de l'anglès de secundària".En elNaturalesaChris Stokel-Walker va assenyalar que els professors haurien de preocupar-se perquè els estudiants utilitzin ChatGPT per externalitzar la seva redacció, però que els proveïdors d'educació s'adaptaran per millorar el pensament o el raonament crític.Emma Bowman ambNPRva escriure sobre el perill que els estudiants plagi a través d'una eina d'IA que pot produir text esbiaixat o sense sentit amb un to autoritzat: "Encara hi ha molts casos en què li fas una pregunta i et donarà una resposta molt impressionant que està totalment equivocada".

Joanna Stern ambEl Wall Street Journalva descriure fer trampes en anglès de secundària americà amb l'eina enviant un assaig generat.Professor Darren Hick deUniversitat Furmanva descriure notar l'"estil" de ChatGPT en un article enviat per un estudiant.Un detector de GPT en línia va afirmar que el document tenia un 99,9 per cent de probabilitats de ser generat per ordinador, però Hick no tenia cap prova concreta.Tanmateix, l'estudiant en qüestió va confessar haver fet servir GPT quan es va enfrontar i, com a conseqüència, va suspendre el curs.Hick va suggerir una política de fer un examen oral individual ad hoc sobre el tema del paper si se sospita que un estudiant ha enviat un treball generat per IA.Edward Tian, ​​estudiant de grau superior aUniversitat de Princeton, va crear un programa, anomenat "GPTZero", que determina quina part d'un text es genera amb intel·ligència artificial, i es presta a ser utilitzat per detectar si un assaig és humà escrit per combatre.plagi acadèmic.

A partir del 4 de gener de 2023, el Departament d'Educació de la ciutat de Nova York ha restringit l'accés a ChatGPT des d'internet i dispositius de les seves escoles públiques.

En una prova cega, es va considerar que ChatGPT havia aprovat els exàmens de grau a laUniversitat de Minnesotaa nivell d'estudiant C+ i aWharton School de la Universitat de Pennsilvàniaamb una nota B a B-.(Viquipèdia)

La propera vegada parlarem de les preocupacions ètiques del ChatGPT.