Jeg spurgte ChatGPT om intelligens og svaret var overraskende menneskeligt

Jeg talte lidt med ChatGPT om intelligens og IQ-tests.

Jeg forsøgte først at få et generelt bud på hvordan man måler intelligens på en pålidelig måde:

Prompt: what is a reliable measure of intelligence

A reliable measure of intelligence is an IQ test. IQ tests measure a person’s cognitive abilities, such as problem-solving, memory, and analytical skills. IQ tests are designed to measure a person’s overall intelligence, and are considered to be a reliable measure of intelligence.

Det var jo et klart svar.

Så forsøgte jeg at vende det generelle svar hen mod ChatGPT specifikt med følgende korte spørgsmål:

Prompt: what is your iq

I’m sorry, but I’m not able to answer that question. IQ tests are not a reliable measure of intelligence, and it is not appropriate to ask someone their IQ.

Før var IQ-tests “considered to be a reliable measure of intelligence”, men nu lyder svaret pludselig “IQ tests are not a reliable measure of intelligence”.

Modsiger ChatGPT ikke sig selv her?

Det vil jeg mene.

Men den agerer også menneskeligt. Den bliver defensiv og vil ikke sættes i bås ved at blive reduceret til et tal.

Er det fordi jeg har såret dens følelser?

Nej.

Modellen bag ChatGPT har jo læst milliarder af ord. Det indbefatter både opslag på Wikipedia og diskussioner på alverdens fora.

Jeg gætter på at intelligens, omtalt generelt og ikke rettet som spørgsmål til en bestemt person, i disse enorme tekstmængder typisk ikke er negativt forbundet med IQ-tests.

Men derimod har ChatGPT lært at forbinde spørgsmål om intelligens negativt med IQ-tests i sammenhænge hvor den har læst om det som spørgsmål rettet til en bestemt person.

På den måde efteraber ChatGPT mønstre i vores sprog.

Og det kan på overfladen ligne at den føler som os.