인공지능 법, 통과하지 않는다면?

영국 의원들의 경고

영국 하원 기술위원회는 최근 발표한 보고서를 통해, 영국 총리의 인공지능(AI) 규제 분야 선도를 위한 계획이 11월에 새로운 법률을 제정하지 않는 한 위험에 처해 있다고 경고했습니다. 보고서에 따르면, 이러한 조치를 취하지 않을 경우 EU가 AI의 안전성 확보를 위한 노력에서 영국을 앞서갈 수 있다고 우려한 것입니다.

11월 초에 영국은 국제 AI 정상회의를 개최할 예정입니다. 그러나 하원 기술위원회는 만약 11월 7일의 국왕 연설에서 AI 법안이 발표되지 않으면, 새로운 법률이 최초로 시행될 수 있는 시기는 2025년이 될 것이라고 밝혔습니다. 이러한 연기로 인해 영국은 다른 법률, 특히 EU AI법과 같은 규정들의 표준을 따라잡지 못할 위험이 있다는 것이 이 보고서의 주요 주장입니다.

영국 정부는 이에 대한 대응으로 국제 AI 안전성 모델의 안전한 개발을 촉진하기 위해 1억 파운드의 초기 투자를 하겠다고 밝혔습니다. 또한 정부 대변인은 필요한 경우 추가적인 조치를 검토할 의사가 있다고 밝혔습니다. 그러나 정부는 신속한 법안 제정에 동의하는지에 대한 입장은 밝히지 않았습니다.

이 보고서는 또한 다양한 국가를 포함한 폭넓은 범위의 국가들이 참석해야 한다고 주장하는데, 이에는 중국도 포함됩니다.

 

인공지능 법 통과에 대한 12가지 당면한 과제

 이 보고서는 영국 정부가 다음과 같은 12가지 "과제"에 대처해야 한다고 강조합니다. 첫째, AI 고용 도구의 경우 여성 이름을 전통적으로 여성의 역할과 연결시키는 등 편향이 발생할 수 있습니다. 둘째, AI 도구의 개인 정보 보호 문제로는 사람을 논란이 될 수 있는 방식으로 식별하는 데 사용될 수 있다는 점이 있습니다. 이에는 얼굴 인식 시스템을 통한 경찰의 용의자 명단 대조 등이 포함됩니다. 셋째, AI 시스템의 도입으로 일부 직업이 대체될 가능성이 있으며, 이로 인한 경제적 영향을 어떻게 해결할 것인지 염두에 두어야 합니다. 넷째, AI 시스템을 훈련시키기 위해 저작권 소재를 사용하는 문제 역시 도전입니다.

 

인공지능 법 통과에 대한 현실적 우려

 이러한 상황은 "생성형 AI 시스템"이라 불리는 시스템이 유명한 예술가, 배우 및 음악가의 스타일로 새로운 작품을 만들 수 있는 능력을 지닌 경우 발생합니다. 그러나 이를 위해서는 대량의 저작권 소재로 AI를 훈련시켜야 합니다. 이로 인해 많은 저작자, 배우, 예술가 및 음악가들은 AI가 자신의 작품을 허락 없이 사용하는 것은 불공정하다고 주장합니다.

이 보고서는 또한 AI의 모방 능력이 오진을 퍼트리거나 사기를 저지르는 데 사용될 수 있다고 우려했습니다. 예를 들어 은행의 음성 인식 보안 시스템을 속일 가능성이 있습니다.

이 보고서는 국가 사이버 보안 센터의 지난 주 경고와도 일치하는데, 그 내용은 대화형 챗봇을 구동하는 대규모 언어 모델은 특정 유형의 공격에 취약하며 현재까지는 그러한 공격을 예방할 수 있는 무결성 보장 조치가 없다는 것입니다.

마지막으로, 영국 하원 기술위원회는 영국 정부의 AI 안전성 유지 방법을 지지하는데, 이는 새로운 AI 규제 기관을 만들 필요 없이 기존 규제 기구에 책임을 할당하는 방식입니다. 이러한 접근 방식은 일부 업계 인사들로부터 지지를 받았는데, 그 중에는 Microsoft UK의 Hugh Milward도 포함됩니다. 그는 EU의 접근 방식보다 더 나은 방식이라고 말했습니다. 그러나 그는 또한 영국의 법안이 너무 많은 내용을 담게 되면서 각종 이슈가 포함될 우려가 있다고 주장했습니다.

 

인공지능법이 통과되는데에 여러 우려들이 존재합니다. 조급함으로 다가가기보다 신중함과 미래를 위한 방향으로 나아가야할 것으로 보입니다.