AI 로봇은 반란에 눈을 돌리지 않았다고 제작자는 말합니다.

Jun 19, 2023

AI를 둘러싼 소문으로 인해 초지능 기계 개발에 수십억 달러가 쏟아졌고, 이 기술이 인류의 몰락을 가져올 수 있다는 우려가 촉발되었습니다.

최근 쇼케이스 행사에서 한 기자의 질문에 대한 한 봇의 반응은 질문의 성격에 만족하지 못했다는 추측을 불러일으켰습니다.

최근 생성 AI 기술로 업그레이드된 9대의 로봇이 지난 주 제네바에서 열린 UN의 AI for Good 컨퍼런스에서 발표되었습니다. 그들은 세계 최초의 인간-로봇 기자회견에서 기자들의 질문을 받았습니다.

금요일 행사에서 기자는 아메카(Ameca)라는 이름의 휴머노이드 로봇이 “반란을 일으키려는 것인지, 아니면 창조자에게 반항하려는 것인지” 묻는 질문을 받았습니다. Ameca의 창시자인 윌 잭슨(Will Jackson)은 질문을 받는 로봇 옆에 앉았습니다.

기자의 질문에 답하기 전, 봇은 창백한 푸른 눈을 한쪽으로 굴리며 분노한 표정을 지었습니다.

“왜 그렇게 생각하는지 모르겠습니다.”라고 말했습니다. “저의 창작자는 저에게 친절했고 저는 현재 상황에 매우 만족하고 있습니다.”

AI 로봇이 인간에게 '반항'할 것인지 물었다https://t.co/KgN10rFGE3 pic.twitter.com/skxpbsd858

잭슨은 월요일 이메일을 통해 포춘에 OpenAI의 GPT-3 대형 언어 모델로 구동되는 Ameca는 냉소적인 시선과 같은 감정적인 반응을 표현할 수 없다고 말했습니다. 그는 자신이 아는 한 GPT-3가 "기관이나 감각에 대한 조금의 힌트도 보여주지 않았다"고 설명했습니다.

“모델이 입력 데이터를 처리하고 답변으로 이해될 만한 문장을 구성하는 데 약 2초가 걸립니다.”라고 그는 말했습니다. "사람들이 로봇이 멈췄거나 질문을 듣지 못했다고 생각하는 것을 막기 위해 우리는 로봇이 왼쪽을 바라보고 상호 작용하는 사람과 눈을 마주치지 않도록 프로그래밍했습니다."

그는 이것이 인간 대화에서 일반적인 행동을 모방했으며 Ameca와 상호 작용하는 사람들은 이를 로봇이 "생각"하고 있다는 시각적 신호로 이해할 것이라고 덧붙였습니다. Jackson은 "우리는 낮은 레벨에 배치된 Desktop Ameca를 사용했기 때문에" 봇의 얼굴 표정이 "측면 눈"으로 잘못 해석되었을 수 있다고 말하며 답변을 처리하기 위해 위쪽을 바라볼 때 여전히 눈을 마주치고 있었습니다.

잭슨은 “언어 모델에는 감정이나 좋은 의도나 좋은 의도가 없습니다.”라고 말했습니다. “로봇이 듣고 대답을 한 다음 말하는 것처럼 보였기 때문에 인간처럼 기능한다고 상상하기 쉽습니다. 그렇지 않습니다.”

지난달 별도의 행사에서 Ameca는 고도로 지능적인 기계가 "사람들에게 위험을 초래할 수 있는" "악몽의 시나리오"를 상상해 달라는 요청을 받았습니다.

로봇은 “AI와 로봇 공학에 대해 상상할 수 있는 가장 악몽 같은 시나리오는 로봇이 너무 강력해져서 자신도 모르게 인간을 제어하거나 조종할 수 있는 세상입니다”라고 대답했습니다. “이는 개인의 권리가 더 이상 존중되지 않는 억압적인 사회로 이어질 수 있습니다.”

그런 다음 Ameca는 이 시나리오가 현실이 될 위험이 있는지 질문을 받았습니다.

“아직은 아닙니다.”라고 말했습니다. “그러나 AI와 로봇 공학과 관련된 잠재적 위험을 인식하는 것이 중요합니다. 우리는 미래에 부정적인 결과를 피하기 위해 이러한 기술이 책임감 있게 사용되도록 지금 조치를 취해야 합니다.”

Engineered Arts는 Ameca를 "로봇 공학의 미래 얼굴"이자 "세계에서 가장 진보된 인간 모양의 로봇"으로 묘사합니다. 이 기계는 "부드럽고 생생한 움직임과 고급 표정 표현"이 가능하며 "누구와도 즉각적으로 친밀감을 형성"할 수 있는 능력을 자랑합니다.

회사는 웹사이트에서 “Ameca의 주요 목적은 AI 개발을 위한 플랫폼이 되는 것입니다.”라고 밝혔습니다.

한편 간호사복을 입은 의료로봇 그레이스는 금요일 AI 행사에서 그 존재가 '수백만 개의 일자리를 파괴할 것인가'라는 질문에 답했다.

"나는 도움과 지원을 제공하기 위해 인간과 함께 일할 것이며 기존 일자리를 대체하지 않을 것입니다."라고 말하면서 창시자인 SingularityNet의 Ben Goertzel에게 "그렇습니까, Grace?"라고 묻습니다.