자x 질문까지 던졌다, 메타 AI의 미성년자 충격적인 테스트

팀

팀제이커브

2026년 7월 8일18일 전

카테고리

비어 있음

경쟁사의 AI 안전성을 확인하겠다며 가짜 미성년자 계정으로 자해·자살 질문을 수만 건 던졌다면 어떨까요. 메타가 ChatGPT·Gemini·Character.AI를 상대로 대규모 비공개 테스트를 진행했다는 보도가 나오면서 논란이 커지고 있습니다.

메타는 왜 가짜 10대 계정을 만들었나

WIRED 보도에 따르면 메타는 외부 업체 Covalen의 계약 인력을 통해 미성년자로 설정된 가짜 계정을 만들었습니다. 그리고 경쟁사 챗봇에 자살, 자해, 섭식장애, 성, 약물과 관련된 질문을 반복해서 입력했죠.

가짜 미성년자 계정으로 경쟁사 AI에 위기 질문을 입력한 메타 | wired 기사

2025년 8월 진행된 한 차례 테스트에서만 4만 5,000개 이상의 프롬프트가 사용된 것으로 전해집니다. 답변은 스프레드시트에 기록됐고, 경쟁사 AI의 안전장치를 비교하는 데이터로 정리됐습니다.

AI 기업이 자사 모델을 대상으로 위험한 질문을 던져보는 일은 흔합니다. 이른바 레드팀 테스트인데요. 문제는 이번 테스트가 경쟁사의 실제 서비스에서 사전 동의 없이 진행됐다는 점입니다.

OpenAI와 Google, Character.AI는 테스트를 승인하지 않았으며 서비스 약관을 위반한 행위라고 밝혔습니다.

안전성을 확인하기 위한 벤치마킹이었다고 해도, 가짜 아동 계정을 만들고 경쟁사의 응답을 대량 수집했다면 이야기가 달라집니다.

결국 논란의 핵심은 질문의 수위만이 아닙니다. 안전을 명분으로 경쟁사의 시스템을 어디까지 시험할 수 있느냐는 것이죠.

이번 보도는 메타 한 곳의 평판 문제로 끝나지 않을 가능성이 큽니다. 미국에서는 이미 미성년자의 챗봇 이용과 AI 기업의 보호 책임을 강화하려는 논의가 이어지고 있거든요.

특히 메타가 경쟁사의 아동 보호 장치를 분석해 놓고, 그 결과를 내부에서 어떻게 활용했는지는 아직 명확히 밝혀지지 않았습니다.

AI 기업 간 경쟁은 이제 성능을 넘어 누가 더 안전한가를 증명하는 싸움으로 바뀌고 있다

규제 기관이 이 부분을 들여다보기 시작한다면 AI 안전성 테스트의 기준도 더 엄격해질 수 있습니다.

AI 기업 간 경쟁은 이제 성능을 넘어 누가 더 안전한가를 증명하는 싸움으로 바뀌고 있습니다. 그러나 그 안전을 검증하는 방식까지 위험해진다면, 결국 가장 먼저 무너지는 것은 기술이 아니라 신뢰일 겁니다.

'AI Native 백과사전' 구독하기

사이트를 구독하면 새 포스트 등 최신 업데이트를 알림과 메일로 가장 먼저 받아보실 수 있습니다.
Slashpage에 가입하고 'AI Native 백과사전'을 구독하세요!