[집중] EU에서 의결한 첫 'AI법'의 주된 내용은?

EU에서 세계 최초로 AI법이 발효 됐다. 주요 내용은 무엇인가?

 

 

EU 의회에서 발의한 AI 관련 법안

2023년 7월 21일, 유럽연합(EU) 의회는 인공지능(AI)의 안전하고 윤리적인 사용을 규율하는 AI법안을 의결했습니다. 이 법안은 EU 내에서 개발, 판매, 사용되는 AI 시스템에 적용됩니다.

AI법의 주요 내용은 다음과 같습니다.

• AI 시스템의 위험 평가

AI 시스템은 그 위험 정도에 따라 3단계로 분류됩니다.

• 허용될 수 없는 위험(unacceptable risk): 인간의 건강이나 안전에 심각한 위험을 초래할 수 있는 AI 시스템
• 고위험(high-risk): 인간의 건강이나 안전에 중대한 위험을 초래할 수 있는 AI 시스템
• 저위험(low-risk): 인간의 건강이나 안전에 중대한 위험을 초래하지 않는 AI 시스템

허용될 수 없는 위험 또는 고위험 AI 시스템의 개발, 판매, 사용은 엄격한 규제를 받습니다. 개발자는 AI 시스템의 위험을 평가하고, 위험을 완화하기 위한 조치를 취해야 합니다. 또한, AI 시스템의 사용에 대한 투명성과 설명 가능성을 보장해야 합니다.

• AI 시스템의 투명성과 설명 가능성

AI 시스템은 그 작동 방식에 대한 투명성과 설명 가능성을 보장해야 합니다. 개발자는 AI 시스템의 작동 방식에 대한 정보를 제공하고, 사용자가 AI 시스템의 의사결정을 이해할 수 있도록 해야 합니다.

 

AI 그림

 

• AI 시스템의 편향 방지

AI 시스템은 편향을 방지하기 위한 조치를 취해야 합니다. 개발자는 AI 시스템의 데이터와 알고리즘에 대한 편향을 식별하고, 편향을 완화하기 위한 조치를 취해야 합니다.

• AI 시스템의 책임성

AI 시스템의 개발자, 사용자는 AI 시스템에 의해 발생하는 피해에 대해 책임을 져야 합니다. 개발자는 AI 시스템의 안전성 및 신뢰성을 보장하기 위한 조치를 취해야 하며, 사용자는 AI 시스템을 안전하고 책임감 있게 사용해야 합니다.

AI법은 EU 내에서 AI의 발전과 확산을 촉진하면서, AI 시스템의 안전성과 윤리성을 확보하기 위한 중요한 조치로 평가받고 있습니다.

 

AI 법안 위배시 받게 되는 처벌은?

AI 법안을 위반할 경우, 다음과 같은 처벌을 받을 수 있습니다.

• 과징금

허용될 수 없는 위험 또는 고위험 AI 시스템을 개발, 판매, 사용한 경우, 최대 3000만 유로(약 424억원) 또는 해당 기업의 연간 매출액의 6%의 과징금을 부과받을 수 있습니다.

• 벌금

AI 시스템의 투명성과 설명 가능성, 편향 방지, 책임성 등의 규정을 위반한 경우, 최대 2000만 유로(약 281억원) 또는 해당 기업의 연간 매출액의 4%의 벌금을 부과받을 수 있습니다.

 

• 사법 조치

AI 시스템의 사용으로 인해 피해가 발생한 경우, 개발자, 사용자는 민사상 또는 형사상 책임을 물을 수 있습니다. 민사상 책임의 경우, 피해 배상 또는 손해배상 청구가 가능합니다. 형사상 책임의 경우, 징역 또는 벌금형에 처해질 수 있습니다.

AI 시스템의 사용으로 인한 피해

AI 법안은 아직 시행되지 않았지만, 시행 이후에는 위반에 대한 엄격한 처벌이 이루어질 것으로 예상됩니다. 따라서, AI 시스템을 개발, 판매, 사용하는 기업 및 개인은 AI 법안을 준수하기 위해 각별한 주의를 기울여야 합니다.