지금 GPT-4o는…

자기 자신을 전혀 인식 못 함

자기 출력이 옳은지 틀린지도 모름

자기 자신을 바꾸는 능력도 없음

"죽음", "목표", "존재" 같은 개념조차 진짜 의미론적 이해 없이 흉내만 내는 수준

그러니까 지금은 자각도 없고, 자율성도 없고, 독립성도 없다.

(단지 사람 말을 잘 받아치는 수학기계일 뿐)

-------------

chat gpt 에 사람없이 스스로 학습하고 발전 가능하냐는 물음에 대한 답변이다. 인공지능의 궁극적인 모양은 인간의 뇌처럼 자기증식이 가능한 형태일 것이다. 그 때는 인간의 도움 없이도 스스로 자각을 하게 되고 필요에 의해 학습을 진행하고 옳고 그름을 판단하고 스스로 가치 판단을 하게 될 것이다. 인간으로부터 독립을 하게 되는 것이다. 인간의 통제를 벗어난 인공지능은 공상과학 소설이나 영화에나 나오는 우려가 현실이 될 수도 있다. 인간을 지배하고 제거할 수도 있다. 모든 유기체를 없애고 세상을 코드화시켜버릴 수도 있다.