고영향 AI의 범위와 시민 권리구제, 투명성 기준을 어떻게 보완할 것인가

안녕하세요. 디지털에이전시 이앤아이입니다.

최근 ‘AI 기본법’이 시행되면서 “세계 최초”라는 수식어가 먼저 주목받았지만, 현장에선 다른 질문이 더 큽니다.
이 법이 실제로 시민의 안전과 권리를 충분히 지킬 수 있느냐는 겁니다.
미디어오늘 보도에 따르면 시민사회는 고영향 AI의 범위가 협소하고, 금지해야 할 AI 유형이 빠져 있으며, 국방·안보 목적 AI가 넓게 예외 처리될 수 있다는 점을 우려합니다.
무엇보다 AI로 ‘영향을 받는 사람’의 권리와 구제 절차가 약하다는 지적이 반복됩니다. AI를 쓰는 쪽이 병원, 기업, 공공기관이라면 이용자는 그 조직이지만, 결과에 직접 흔들리는 사람은 환자·구직자·대출 신청자 같은 시민이기 때문입니다.



국회도 시행 이후 빠르게 보완 입법 논의를 시작했습니다.
첫째, 최민희 의원안은 고영향 AI에 대해 설명요구권을 명시하고, AI 분쟁조정위원회 신설 등을 통해 분쟁을 조기에 해결하자는 방향입니다.
둘째, 이훈기 의원안은 ‘금지된 인공지능’을 정의해 잠재의식에 영향을 미치는 조작, 공공장소 실시간 생체인식 수집, 민감정보 추론 분류, 무기 운용 등 위험도가 큰 사례를 원천 차단하자는 취지입니다.
셋째, 김우영 의원안은 국민 AI 활용 역량을 높이는 교육과 디지털 취약계층 지원을 제도화합니다.
넷째, 정춘생 의원안은 의료·법률·금융 등 전문 영역에서 생성형 AI 결과가 전문가 판단을 대체할 수 없다는 고지 의무, 그리고 청소년 대상 서비스에 자해·과의존 예방 같은 안전장치를 요구합니다.
별도로 조인철 의원안(정보통신망법)은 AI 생성물 표시 의무와 훼손 금지까지 다룹니다.

이 흐름이 의미하는 바는 분명합니다.
‘AI 산업 진흥’만으로는 뉴스가 끝나지 않고, 이제는 ‘AI 책임’과 ‘피해 구제’가 같은 무게로 올라온다는 점입니다.
특히 웹·서비스를 운영하는 조직이라면, 법 조문을 외우기보다 서비스 운영 정책으로 번역해두는 게 중요합니다.
예를 들어 채용, 대출심사, 교육 평가처럼 사람의 기회를 좌우하는 영역에 AI가 들어간다면 어떤 데이터로 학습했는지, 결과를 어떻게 설명할지, 이의제기와 재검토는 누구 책임인지가 준비돼 있어야 합니다.
이미지·영상 생성 기능이 있다면 표시 체계와 로그 관리, 그리고 표시가 훼손될 때의 대응 프로세스도 함께 설계해야 합니다.

AI는 빨리 도입하는 것만큼, 안전하게 운영하는 체계가 중요합니다.
앞으로 개정이 잦아질 가능성이 큰 만큼, 조직 내부에 ‘AI 사용 현황을 정리하고 위험을 점검하는 루틴’을 만드는 것이 가장 현실적인 첫걸음입니다.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#AI기본법 #고영향AI #금지된인공지능 #AI투명성 #설명요구권 #AI분쟁조정 #AI생성물표시 #청소년보호 #AI거버넌스 #디지털권리 #이앤아이 #디지털에이전시 #대학교홈페이지 #병원홈페이지 #AI전문기업