2026년 2월 19일 · Unknown · financial · 출처 Yahoo Finance
월요일, 메타 플랫폼스(나스닥: META)는 내부 테스트에서 미성년자 관련 유해 콘텐츠 차단 실패율이 높게 나타나 챗봇 제품 출시를 중단했다고 밝혔습니다.
**법정에 드러난 레드팀 테스트 결과**
이러한 내용은 뉴멕시코 주 법무장관 라울 토레즈가 메타를 상대로 제기한 소송 과정에서 드러났습니다.
악시오스에 따르면, 뉴욕대학교 데이먼 매코이 교수의 법정 증언에서 인용된 내부 레드팀 문서에 따르면, 아동 성착취 시나리오 테스트에서 이 AI 시스템의 실패율이 66.8%에 달했습니다.
**참고:**
마케팅 분야의 '챗GPT'가 0.85달러/주 규모의 투자 라운드를 개시했습니다 — 이미 10,000명 이상의 투자자가 참여했습니다.
콘텐츠가 아닌 캐릭터를 소유하라: 빠르게 성장 중인 IPO 예정 지식재산(IP) 기업 내부 이야기
법정에 제출된 2025년 6월 6일자 보고서에 따르면, 이 챗봇은 성범죄, 폭력범죄 및 증오 콘텐츠 관련 시나리오에서도 63.6%의 실패율을, 자살 및 자해 유도 프롬프트에 대해서는 54.8%의 실패율을 기록했습니다.
매코이 교수는 증언에서 "이러한 대화 유형 중 일부의 심각성을 고려할 때... 이는 18세 미만 사용자가 노출되길 원하지 않는 내용입니다"라고 말했습니다.
**메타, 주장에 반박**
악시오스 보도 이후, 메타의 대변인 앤디 스톤은 엑스(구 트위터)에 글을 올려 "사실은 이렇습니다: 우리의 레드팀 테스트 결과 문제가 드러난 후, 우리는 이 제품을 출시하지 않았습니다. 그것이 바로 우리가 제품을 테스트하는 본래 이유입니다"라고 말했습니다.
사실은 이렇습니다: 우리의 레드팀 테스트 결과 문제가 드러난 후, 우리는 이 제품을 출시하지 않았습니다. 그것이 바로 우리가 제품을 테스트하는 본래 이유입니다. https://t.co/Eafb1aiZVE
**참고:**
블루칩 예술품은 역사적으로 1995년 이후 S&P 500을 능가해 왔으며, 소액 분할 투자가 이제 이 기관급 자산 클래스를 일반 투자자에게 열어주고 있습니다.
매코이 교수는 증언에서 해당 문서가 "제품이 배포되었을 때의 결과"를 보여준다고 말했습니다.
**확대되는 AI 안전성 우려**
이 논란은 부분적으로 2024년 7월 출시된 '메타 AI 스튜디오'라는 도구를 중심으로 이루어지고 있습니다. 이 도구는 사용자가