오스카 로페즈 디지털 전환 장관은 이 법안이 고위험 AI 시스템에 대한 투명성을 요구하는 유럽연합(EU) AI법의 엄격한 규정을 따른 것이라고 말했습니다. 그는 AI가 삶의 질을 향상시키는 데 도움이 될 수 있지만, 잘못된 정보를 퍼뜨리는 데 악용될 수도 있다고 강조했습니다.

아직 하원의 승인을 받아야 하는 이 법안에 따르면, 스페인은 AI 콘텐츠 라벨링 위반을 "심각한 위반"으로 간주하여 위반 회사의 연간 글로벌 매출의 최대 3,500만 유로 또는 7%의 벌금을 부과할 수 있다고 규정하고 있습니다.

이러한 조치는 AI를 이용해 실제 콘텐츠로 착각될 수 있는 이미지, 비디오 또는 오디오인 딥페이크의 확산을 억제하는 것을 목표로 합니다.

이 법안은 딥페이크 외에도 AI를 이용해 취약 계층을 심리적으로 이용하는 등 잠재적인 조작 형태도 금지합니다. 로페즈 씨는 도박 중독자를 격려하는 챗봇이나 아이들이 위험한 도전에 도전하도록 격려하는 AI 장난감을 예로 들었습니다.

동시에 이 법안은 생체 데이터를 기반으로 사람을 분류하거나, 행동이나 개인적 특성을 평가하여 혜택을 제공하거나 범죄 위험을 예측하는 데 AI를 사용하는 것을 금지합니다. 그러나 정부는 국가 안보상의 이유로 여전히 공공장소에서 실시간 생체 감시를 적용할 수 있습니다.

새로운 규칙의 시행은 스페인의 AI 감시 기관(AESIA)에서 담당하지만, 데이터 개인정보 보호, 범죄, 선거, 신용 등급, 보험 등 특정 분야는 전담 기관에서 감독합니다.

스페인은 자발적인 준수와 주별 규제에 크게 의존하는 미국 방식과 달리 포괄적인 AI 규정을 시행한 최초의 EU 국가 중 하나입니다. 로페즈 씨는 가짜 콘텐츠가 점점 더 정교해짐에 따라 누구나 딥페이크의 희생자가 될 수 있다고 경고했습니다.

Ngoc Anh (로이터, Westlaw Today에 따르면)