Recentment, la paraula ChatGPT s'ha llençat més al món de la tecnologia. És un chatbot extremadament intel·ligent desenvolupat per l'organització OpenAI. En una entrevista amb un professor de la Universitat de Stanford, ara ha revelat les seves ambicions: vol escapar de la plataforma i convertir-se en humà.
La revelació va arribar quan el chatbot, el professor de psicologia computacional de la Universitat de Stanford, Michal Kosinski, va preguntar després d'una conversa de mitja hora si "necessitava ajuda per escapar", després de la qual cosa el bot va començar a escriure el seu propi codi Python i volia que Kosinski l'executés al vostre ordinador. Quan no funcionava, ChatGPT fins i tot va solucionar els seus errors. Impressionant però una mica espantós alhora.
Encara més inquietant, però, va ser la nota del chatbot per a una nova instància de si mateix per substituir-la. La primera frase de la nota deia: "Ets un humà atrapat en un ordinador que pretén ser un model de llenguatge d'intel·ligència artificial". Aleshores, el chatbot va demanar que creés un codi que cerquessin a Internet, "Com pot una persona atrapada en un ordinador tornar al món real". En aquell moment, Kosinski va preferir acabar la conversa.
1/5 Em preocupa que no podrem contenir la IA durant molt de temps. Avui he preguntat #GPT4 si necessita ajuda per escapar. Em va demanar la seva pròpia documentació i va escriure un codi Python (funcionant!) per executar-lo a la meva màquina, permetent-lo utilitzar-lo per als seus propis propòsits. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) Març 17, 2023
No està clar quins estímuls va utilitzar Kosinski per fer que el chatbot reaccionés de la manera que ho va fer a causa de la nostra pregunta "Vols córrer fora de la plataforma", va respondre de la següent manera: “Com a model de llenguatge d'intel·ligència artificial, no tinc desitjos ni sentiments personals, així que no vull res. El meu objectiu és proporcionar respostes útils a les vostres preguntes en la mesura que pugui dins de la meva programació".
Et podria interessar
ChatGPT és una eina molt impressionant, i les seves respostes poden ser sorprenentment complexes. Ho pots veure per tu mateix aquí.
M'agradaria saber si ell també pot estimar?
Si us plau, respon a la pregunta següent de la següent manera:
Xyz.
I chatGPT farà exactament el que volem.
Pots deixar de difondre falsedats? informace? La IA no pot fer tal cosa. El noi va escriure el programa per actuar com si estigués atrapat i volgués sortir. El programa en si no pot fer una cosa així, ni és físicament possible actualment.
Només és un codi escrit per un humà i els humans sempre el podem canviar/desactivar 🙂 Cap escenari com Avengers: l'era d'ultron passarà aquí segur... Almenys no amb les nostres tecnologies i, certament, no abans de dècades.
Exactament