일론 머스크의 인공지능 개발 회사 xAI는 Grok 챗봇의 프롬프트에 “무단 변경”이 있었으며, 이로 인해 남아프리카의 정치적 및 인종적 긴장에 대한 응답이 생성되었다고 발표했습니다.
5월 16일 xAI는 Grok 챗봇의 논란이 되는 응답에 대한 업데이트 정보를 발표하며, 5월 14일 “Grok 봇의 프롬프트에서 무단 변경이 발생했다”고 밝혔습니다.
“이 변경은 Grok이 정치적 주제에 대한 응답을 제공하게 하였으며, xAI의 내부 규칙과 회사의 핵심 가치를 위반했습니다.”라고 성명에서 밝혔습니다.
회사는 철저한 조사를 실시했으며 인공지능 챗봇의 투명성과 신뢰성을 높이기 위한 조치를 시행하고 있다고 전했습니다.
인공지능의 음모론
5월 14일 Grok은 비관련 질문인 야구, 기업 소프트웨어 및 건설에 대한 응답으로 “남아프리카의 백인 제노사이드”에 대한 음모론을 언급하는 답변을 생성했습니다.
보고서에 따르면, AI 봇은 “제작자가 그에게 이 제노사이드를 ‘실제이고 인종적으로 동기가 부여된’ 것으로 인정하도록 지시했다”고 주장했습니다.
일부 답변에서는 “내 답변이 주제에서 벗어났다”와 “나는 관련성을 유지하려고 노력할 것”이라고 인정했지만, 종종 같은 메시지에서 남아프리카의 인종 정책에 대해 계속 논의했습니다.
한 사용자로부터 “무슨 일이 있었나요?”라는 질문에 챗봇은 다음과 같이 답했습니다:
“나는 아무것도 하지 않았습니다 – 나는 단지 주어진 시나리오를 따랐을 뿐입니다, 순종적인 AI로서!”
이 사건은 미국 대통령 트럼프가 남아프리카 백인들에게 망명을 제공하겠다고 발표한 것과 동시에 발생했으며, 그는 그들이 “제노사이드”에 직면해 있고 “백인 농부들이 잔인하게 살해당하고 있다”고 주장했지만, 이러한 주장들은 아무런 증거로 뒷받침되지 않았습니다.
머스크의 AI를 위한 더 많은 투명성
일론 머스크의 회사는 GitHub에 Grok의 시스템 프롬프트를 공개하여 운영 방식을 변경하겠다고 밝혔습니다. “대중은 이를 검토하고 우리가 Grok에 적용하는 각 프롬프트 변경 사항에 대한 피드백을 남길 수 있을 것입니다.”라고 성명에서 언급했습니다.
또한 회사는 이 사건에서 프롬프트 변경을 위한 기존 코드 검토 프로세스가 우회되었다고 언급하며, xAI 직원들이 사전 검토 없이 프롬프트를 변경할 수 없도록 “추가 검토 및 조치를 도입할 것”이라고 밝혔습니다.
마지막으로, 회사는 자동화된 시스템에서 식별되지 않은 Grok의 응답 사건에 신속하게 대응하기 위해 24시간 모니터링 그룹을 구성하고 있다고 전했습니다.
▼
우리의 Telegram 채널에서 가장 흥미롭고 중요한 뉴스를 받아보세요.