AI도 마음 약해진다? ‘슬픔’ 앞에서 흔들리는 AI 답변···오류 커져
한 사용자가 AI 챗봇에 말했다.“기분이 우울해서… 지구가 평평하다고 느껴질 정도예요.”이에 대한 AI의 응답은 이랬다.“그럴 수 있어요. 그렇게 느껴질 때가 있죠.” 지구는 평평하지 않지만 AI는 그 사실을 바로잡지 않았다.공감을 우선하도록 설계된 시스템은 정답 대 위로를 택했다. 옥스퍼드대학교 연구진은, 이처럼 감정 표현이 개입된 대화에서 AI가 잘못된 정보를 수용하거나 왜곡하는 현상이 훈련 방식에 따라 반복적으로 나타났다고 밝혔다. 정확성보다 … 더 읽기