챗봇 등 AI 기술 활용에 대한 규제 법안이 마련되고 있다

사람이 한 작업결과를 쉽게 반복하여 복제할 수 있는 챗봇과 공공장소에서 얼굴 생체 인식을 통해 감시하는 등 첨단 인공지능 활용으로부터 소비자를 보호하기 위한 법안들이  마련되고 있습니다.

미국에서는 연방 단위의 법률 제정이 지지부진하여 Open AI의 ChatGPT 및 기타 생성형 AI 도구를 규제하는 일은 주 정부 단위에서 이루어지고 있습니다. 현재 미국에서 소비자가 얼마나 이러한 첨단기술로 부터 얼마나 보호를 받을 수 있는지는 거주 지역에 따라 다릅니다.

2023년 말까지 기업이 구직자를 차별하거나 소비자로 하여금 상품과 서비스에 대해 잘못 인식시키기 위해 AI를 사용하지 못하도록 하는 법률을 제정했거나 제정할 예정인 주는 캘리포니아, 콜로라도, 코네티컷, 일리노이, 메릴랜드, 버지니아 등 6개입니다.

뉴욕의 한 도시도 채용 과정에서 AI 사용을 규제하는 조례를 통과시키기 위해 이러한 노력에 동참하고 있습니다.

브라이언 케이브 레이튼 파이스너의 데이터 프라이버시 전문 변호사 골리 마다비는 "우리는 중요한 변곡점에 서 있습니다."라고 말했습니다. "현재 기업 전반에 걸쳐 AI 도구를 대량으로 채택하고 있습니다."

목요일에 유럽 연합도 ChatGPT를 포함한 AI 도구를 규제하는 법안을 통과시키기 위한 큰 발걸음을 내디뎠습니다. 의원들은 공공장소에서 얼굴 인식을 금지하고 생성형 AI 프로그래밍에 대한 투명성을 강화하는 내용을 담은 법안 초안을 강화하는 데 동의했습니다.

국가적 보호 방안

마다비는 미국에서 법안이 시행되고 있는 주들도 비슷한 수준의 권리 보호를 목표로 하고 있다고 말합니다. 캘리포니아, 콜로라도, 코네티컷, 버지니아는 소비자의 동의가 없는 한 AI 프로파일링을 금지하고 있습니다. 뉴욕시도 마찬가지입니다.

이러한 프로파일링에는 경력, 건강 및 재무 기록과 같은 개인 데이터를 수집 또는 공유하고 컴퓨터 알고리즘에 의존하여 데이터를 평가하여 대출, 보험 가입 또는 주택 청약 승인 또는 거부와 같은 법적 결과가 수반되는 결정을 내리는 것이 포함됩니다.

마다비는 AI 도구가 이러한 범주에서 자동화된 결정을 내릴 경우, 기업은 고객에게 AI의 의사 결정 기능을 프로그래밍하는 데 사용된 조건 및 프로세스를 설명해야 한다고 설명합니다.

또한 이 법에 따라 해당 도구를 사용하는 기업은 소비자에게 이런 자동화된 결정의 대상이 되지 않기를 선택할 수 있는 옵션을 제공해야 하며, 소비자에게 AI 도구의 이점과 위험성을 구체화하여 리스크 평가를 받아야 합니다.

일리노이주와 뉴욕시의 법률은 고용주가 AI 도구를 사용하는 관행에 대해 다양한 보호 장치를 마련하여 고용주가 AI를 통한 채용 결정을 내리기 위해 구직자의 개인 데이터를 수집하지 못하도록 하고 있습니다.

메릴랜드주에서는 지원자가 동의하지 않는 한 고용주가 구직자를 식별하기 위해 안면 인식 기술을 사용하는 것이 금지되어 있습니다.

캘리포니아의 법률은 소비자를 가장 강력하게 보호합니다. 캘리포니아주는 프로파일링을 차단하는 것 외에도 온라인 봇을 사용하여 주 경계 내에 있는 사람에게 상품 및 서비스 판매를 홍보하는 행위를 불법으로 규정하고 있습니다.

보편적인 기준은 아직 마련되어 있지 않다

마다비는 이러한 법이 적용됨에 따라 기업들이 법률 준수(컴플라이언스) 이슈가 발생할 것으로 예상합니다.

"기업의 컴플라이언스 프로그램을 포괄할 수 있는 보편적인 표준이 없기 때문에 주마다 다른 법률이 적용될 때마다  리스크가 커집니다."라고 그녀는 말합니다.

현재로서는 가장 큰 영향을 받는 산업은 주택, 채용, 보험 분야라고 그녀는 덧붙입니다.

현재로서는 캘리포니아주가 법 집행을 위해 가장 잘 준비되어 있다고 설명합니다. 다른 주에서도 법을 집행할 수 있는 여력이 있는지는 아직 미지수입니다.

"캘리포니아에는 자체 예산이 있는 소비자 개인정보 보호 전담 기관이 있으며, 현재 인력을 충원하고 있는 것으로 알고 있습니다."라고 그녀는 말합니다. "따라서 법 시행일이 다가오는 7월에는 대대적인 법적 조치들이 이루어질 것으로 예상할 수 있습니다."

 

출처 : Yahoo Finance, AI faces legal limits in these 6 states, May 14, 2923