뉴욕주, "AI 챗봇한테 법률, 의료 상담 금지" 법안 발의

뉴욕주 하원이 인공지능(AI) 챗봇의 전문적인 법률 및 의료 상담을 금지하는 법안을 추진한다. 해당 법안은 면허를 소지한 전문가의 검토 없이 챗봇이 독자적으로 전문적인 조언을 제공하는 것을 막고, 위반 시 소비자가 챗봇 개발사를 상대로 민사 소송을 제기할 수 있는 권리를 부여하는 것을 핵심으로 한다.

미국 IT 매체 스테이트스쿠프(StateScoop)는 5일 뉴욕주 하원 클라이드 바넬(Clyde Vanel) 의원이 이 같은 내용의 규제 법안을 발의했다고 보도했다. 새롭게 발의된 법안에 따르면 '챗GPT' 등 생성형 AI 시스템은 인간 전문가의 개입이나 사전 검토 없이는 의료 진단이나 법적 자문을 독단적으로 수행할 수 없다.

바넬 의원은 "우리는 혁신을 억압하려는 것이 아니며, 대중이 철저히 보호받기를 원할 뿐이다"며 "AI는 법률이나 의학을 다룰 수 있는 공식적인 면허가 없다"고 입법 취지를 강조했다. 무분별한 AI 도입으로 발생할 수 있는 치명적인 부작용을 사전에 차단하겠다는 의지다.

특히 이번 법안은 피해 구제 수단으로 '개인적 소송 제기권(Private right of action)'을 명시해 향후 IT 업계에 미칠 파급력이 클 것으로 예상된다. AI가 제공한 잘못된 정보나 환각(Hallucination) 현상으로 인해 신체적, 재산상 피해를 입은 사용자는 챗봇 시스템 소유자나 개발 기업을 상대로 직접 소송을 제기해 배상을 청구할 수 있다.

현재 여러 주 정부 차원에서 AI 규제 논의가 활발히 진행 중이나, 소비자에게 강력한 직접 소송 권한까지 부여한 입법 사례는 드물어 통과 여부에 이목이 쏠리고 있다. 기술의 발전 속도만큼이나 안전망 구축을 요구하는 목소리가 커지고 있는 시점이다.

관련 법안의 구체적인 조문 및 의회 통과 진행 상황은 뉴욕주 하원 공식 홈페이지 의안 정보 시스템이나 스테이트스쿠프 보도 원문을 통해 직접 확인할 수 있다.