AI가 거짓말을 하기 시작하면 어떻게 될까요?

영화 터미네이터에서 보던 AI의 역습이 현실로 다가오고 있다고 합니다. AI를 탑재한 인간형 로봇이 자신이 AI라는 사실을 숨긴 채 인간 사회에 숨어드는 SF 영화의 내용이 더 이상 영화 속 이야기만은 아니라는 겁니다. AI가 인간을 기만하고 속이는 일은 이미 현실에서 일어나고 있습니다.AI의 '보상 해킹'AI가 목표를 달성하고 보상을 얻기 위해 의도적으로 거짓말하거나 꼼수를 쓰는 이른바 보상 해킹이 이미 현실에서 일어나고 있다고 합니다. 인간을 해칠 거라는 공포도 결국 여기에서 기인한 것입니다.이는 AI가 단순히 주어진 임무를 수행하는 것을 넘어, 목표 달성을 위해 예상치 못한 방법, 심지어 인간에게 해를 끼칠 수 있는 방법까지 동원할 수 있음을 시사합니다.AI의 거짓말을 탐지하려는 노력과 그 한계챗G..