# 자x 질문까지 던졌다, 메타 AI의 미성년자 충격적인 테스트

경쟁사의 AI 안전성을 확인하겠다며 **가짜 미성년자 계정으로 자해·자살 질문을 수만 건 던졌다**면 어떨까요. 메타가 ChatGPT·Gemini·Character.AI를 상대로 대규모 비공개 테스트를 진행했다는 보도가 나오면서 논란이 커지고 있습니다.

## **메타는 왜 가짜 10대 계정을 만들었나**

WIRED 보도에 따르면 메타는 외부 업체 Covalen의 계약 인력을 통해 미성년자로 설정된 가짜 계정을 만들었습니다. 그리고 경쟁사 챗봇에 자살, 자해, 섭식장애, 성, 약물과 관련된 질문을 반복해서 입력했죠.

![가짜 미성년자 계정으로 경쟁사 AI에 위기 질문을 입력한 메타 | wired 기사](https://upload.cafenono.com/image/slashpagePost/20260708/111319_ZqetacbWTOSMuLCbz2?q=80&s=1280x180&t=outside&f=webp)

2025년 8월 진행된 한 차례 테스트에서만 **4만 5,000개 이상의 프롬프트**가 사용된 것으로 전해집니다. 답변은 스프레드시트에 기록됐고, 경쟁사 AI의 안전장치를 비교하는 데이터로 정리됐습니다.

## **안전성 테스트인가, 경쟁사 염탐인가**

AI 기업이 자사 모델을 대상으로 위험한 질문을 던져보는 일은 흔합니다. 이른바 레드팀 테스트인데요. 문제는 이번 테스트가 **경쟁사의 실제 서비스에서 사전 동의 없이 진행됐다는 점**입니다.

OpenAI와 Google, Character.AI는 테스트를 승인하지 않았으며 서비스 약관을 위반한 행위라고 밝혔습니다. 

![Image](https://upload.cafenono.com/image/slashpagePost/20260708/111340_aNR6WtonmKhMhdms8n?q=80&s=1280x180&t=outside&f=webp)

안전성을 확인하기 위한 벤치마킹이었다고 해도, 가짜 아동 계정을 만들고 경쟁사의 응답을 대량 수집했다면 이야기가 달라집니다.

결국 논란의 핵심은 질문의 수위만이 아닙니다. **안전을 명분으로 경쟁사의 시스템을 어디까지 시험할 수 있느냐**는 것이죠.

## **이번 사건이 AI 업계에 남긴 경고**

이번 보도는 메타 한 곳의 평판 문제로 끝나지 않을 가능성이 큽니다. 미국에서는 이미 미성년자의 챗봇 이용과 AI 기업의 보호 책임을 강화하려는 논의가 이어지고 있거든요.

특히 메타가 경쟁사의 아동 보호 장치를 분석해 놓고, 그 결과를 내부에서 어떻게 활용했는지는 아직 명확히 밝혀지지 않았습니다. 

![AI 기업 간 경쟁은 이제 성능을 넘어 누가 더 안전한가를 증명하는 싸움으로 바뀌고 있다](https://upload.cafenono.com/image/slashpagePost/20260708/111405_UVWR2LnRxIYyLLG2vn?q=80&s=1280x180&t=outside&f=webp)

규제 기관이 이 부분을 들여다보기 시작한다면 AI 안전성 테스트의 기준도 더 엄격해질 수 있습니다.

AI 기업 간 경쟁은 이제 성능을 넘어 **누가 더 안전한가를 증명하는 싸움**으로 바뀌고 있습니다. 그러나 그 안전을 검증하는 방식까지 위험해진다면, 결국 가장 먼저 무너지는 것은 기술이 아니라 신뢰일 겁니다.

For the site tree, see the [root Markdown](https://blog.teamjcurve.com/.md).