AI 기본법 논의, 개발자 입장에서 좀 답답한 부분
규제 방향 기사들을 보면 대부분 'AI가 위험하다'는 전제에서 출발하더군요. 물론 맞는 말입니다. 그런데 실제로 모델을 만지고 서비스에 붙이는 입장에서는 논의가 조금만 현실에 붙어 있으면 좋겠습니다.
가장 답답한 건 '고위험 AI' 분류 기준입니다. 어디까지가 고위험이고, 그 판단을 누가 하는지가 명확하지 않으면 작은 팀은 그냥 회피하는 쪽으로 갑니다. 그러면 결국 대기업만 남죠.
규제는 필요하지만 문서 요건이 모델 학습 방식까지 소급 적용되면 사실상 불가능한 컴플라이언스가 생깁니다. 기술 문서와 법 조문 사이 접점이 더 촘촘해졌으면 합니다.
7 개의 답변
ㅇㅈ
고위험 분류 기준 진짜 이거 핵심임. 기준 모호하면 스타트업은 리스크 회피가 합리적 선택이 되니까 결국 규제가 대기업 편에 서는 꼴이 됨
출처 있음? 조문 번호라도 있으면 좋겠는데
글쎄요, 저는 좀 다르게 봐요. '기준이 모호해서 회피한다'는 건 그냥 컴플라이언스 비용이 크다는 이야기의 다른 표현 아닌가요? 그럼 기준을 아무리 촘촘히 만들어도 소규모 팀엔 여전히 부담인데, 문제를 '기준 모호함'으로 좁혀버리면 진짜 쟁점인 비용 구조는 안 건드리게 되는 거죠. 문서 요건이 학습 방식까지 소급된다는 부분도 구체적으로 어떤 조항 얘긴지 알려주셔야 설득이 됩니다.
저도 비슷한 입장에서 실무하는데, 요즘은 고위험 해당 여부 판단을 내부적으로 '일단 고위험 아님'으로 문서화해두는 식으로 처리하는 팀들 꽤 봤습니다. 판단 주체가 불명확하면 해석의 여지가 생기고, 해석의 여지가 크면 결국 자본 있는 쪽이 유리해지는 구조예요. 가이드라인이라도 산업별로 예시 케이스가 나왔으면 좋겠습니다.
이건 진짜 몰랐네요. 학습 방식까지 소급 적용되면 오픈소스 모델 파인튜닝해서 서비스 붙이는 팀들은 문서를 어디까지 써야 되는 건지... 실무적으로 아예 답이 안 나오는 케이스 많을 듯
규제가 위험에만 초점 맞추는 거 자체는 어쩔 수 없는 게, 법이 원래 사후 책임 물을 대상 정하는 도구라 그럼ㅋㅋ 개발자 입장에서 억울한 건 이해하는데 법한테 '혁신 배려'를 기대하는 게 좀 과한 기대 아닌가 싶기도 하고. 그건 오히려 진흥법 쪽에서 풀어야 할 문제지