• 유럽연합 EU의 획기적인 AI 규제법이 8월 1일 발효됐습니다.
• 지난 5월 21일 최종 승인을 받았구요, 기업의 AI 개발과 사용 및 적용 방식에 대한 광범위한 규제를 담고 있는 세계 최초의 AI에 관련된 법안입니다. 
• AI 기술이 폭발적으로 발전하고 막대한 투자가 이뤄지는 과정에서 여러가지 부작용도 드러나고 있죠.
• 사실 AI 개발의 경쟁이 너무 과도하게 진행되는 측면도 많습니다.
• 막대한 투자도 그렇지만, AGI (인공일반지능)를 향한 무분별한 개발이 자칫 인류에게 재앙이 될 수도 있을 거란 불안감도 있습니다.
• AI 학습에 사용되는 막대한 데이터들이 불법으로 사용된 정황들이 나오면서 저작권과 개인정보 유출에 대한 문제점이 요즘 많이 드러나고 있기도 합니다.
• 오픈AI의 공동창업자이자 핵심 개발자였던 일리야 수츠케버가 오픈AI를 비판하면서 회사를 떠나게 된 이유가 바로 이런 문제점들 때문이었죠.
• 그래서 현 시점에서 EU에서 발표된 세계 최초의 AI 법이 전달하는 시사점과 의미는 매우 크다고 볼 수 있습니다. 
• 오늘 수요레터에서는 이번에 발효된 AI법의 핵심적인 내용과 앞으로의 영향에 대해 살펴보겠습니다.

AI 법에는 대체 어떤 내용이 있는거야?

• AI 법은 인공지능을 규제하는 EU의 법안입니다. 2020년 유럽연합 집행위원회가 처음 제안했고, AI의 부정적 영향을 해결하기 위한 목적으로 준비되었습니다.
• AI의 위험도에 따라 4가지 등급으로 분류하고 분류에 따른 규정을 명시하는 것이 이번 AI 법의 가장 핵심적인 부분입니다.
• 4가지 등급은 아래와 같습니다. 

• 최소 위험 (Minimal Risk) 아주 간단한 AI 시스템입니다. 별도의 규제가 없습니다. (예: 이메일 스팸 필터)
• 제한된 위험 (Limited Risk) 상대적으로 낮은 위험의 AI 시스템으로 분류되는 레벨입니다. 사용자에게 이 서비스가 AI 임을 고지해야할 의무가 있습니다. (예: AI 챗봇)
• 고 위험 (High Risk) 여기서 부터가 핵심입니다. 사회와 인간에게 영향이 큰 분야에 사용되는 AI 서비스들이 고위험 군에 속하게 됩니다. 엄격한 준수 의무를 가지게 됩니다. (예: 의료, 교육, 법, 행정 등)
• 허용 불가 위험 (Unacceptable Risk) AI가 절대로 사용되어서는 안되는 분야입니다. (예: 예측 치안, 감정인식 기반 사회적 채점 시스템)

AI 법에 영향 받는 분야는 뭐가 있지?

• 고위험과 허용 불가 위험군에 대해서 좀 더 살펴볼 필요가 있습니다. 특히나 고위험 군에 해당되는 AI가 가장 큰 영향을 받게 될 것입니다.
• 먼저 고위험군에 속하는 영역 중에서 대표적인 내용을 살펴보면,
• 의료 장비 및 치료 분야가 있습니다. AI가 광범위하게 적용될 분야이지만 인간의 생명을 다루는 영역이니 만큼 더 많은 주의가 필요하겠죠.
• 자율 주행 분야도 고위험 군에 속하는 대표적인 분야일 것입니다. 사람의 안전과 직결되는 문제입니다.
• 교육이나 취업 등 학생과 채용에 사용되는 평가 시스템에 AI 가 사용되는 것도 통제의 대상이 됩니다.
• 공공 서비스, 금융, 사법 시스템에도 이런 규제는 이루어집니다.
• 생체 인식 등과 같은 개인의 프라이버시와 관련된 감시 시스템에도 이런 제약이 적용됩니다.
• 고위험 대상으로 선정된 AI 시스템은 투명성, 설명 가능성, 데이터 품질, 인간의 감독, 보안 준수 등의 관련된 기준을 반드시 지켜야 합니다.
• 불가 위험군은 사실 심플합니다.
• 감정 등에 따른 개인의 데이터를 이용하여 개인의 사회적 평판을 평가하는 시스템에는 AI를 사용할 수 없습니다.
• 실시간 원격 생체 조작이라던지 사람들의 투표 행위에 영향을 미치는 선거 행위에도 AI는 사용할 수 없습니다.

만약 지키지 않으면 얼마나 벌금을 무는 거야? 

• 그러면 위에서 얘기한 규정을 어기게 되면 어떤 패널티를 물게 될까요?
• 먼저 벌금의 경우에는 위반 시 최대 3,500만 유로 또는 글로벌 연간 수익의 7% 중 더 높은 금액이 부과될 수 있습니다. 
• 이는 이미 시행하고 있는 GDPR (일반정보보호규정)보다 더 높은 수준의 벌금입니다.
• 벌금에서 그치지 않고 심각한 위반의 경우 서비스 중단이나 데이터 삭제 명령을 받을 수도 있습니다.

빅테크 기업들 떨고 있는거야?

• 이번 AI 법에 적용되는 대상은 EU 회원국에 진출한 모든 AI 기업들이 해당합니다. 그래서 미국의 거대 AI 테크기업들이 이번 법으로 인해 가장 큰 영향을 받을 것으로 보입니다.
• 또한 테크 기업 뿐만 아니라 AI를 이용한 기업에게도 이 법은 적용될 전망입니다.
• EU에서 운영되거나 영향을 미치는 모든 조직에 적용되기 때문에 AI 기업이 EU 밖에 있더라도 당연히 해당 법의 규제를 받게 됩니다.
• 사실 글로벌 테크 기업이 EU에 진출하지 않는 경우는 없기 때문에 관련 법을 피해갈 방법은 없어 보입니다.
• 이미 Meta는 규제 문제로 유럽에서 AI 모델 가용성을 제한한다고 발표한 바 있습니다. LLaMa 모델이 GDPR 규정을 준수하는 지 여부에 대해 불확실하다는 설명입니다.
• 하지만 오픈소스 모델에 대해서는 관련된 AI 법의 적용을 면제시켜주도록 해서 AI 기술의 발전이 몇몇 선도 기업에만 몰리지 않도록 방향을 잡는 역할도 하고 있습니다.
• 물론 면제 자격을 얻으려면 오픈 소스의 특정 조건을 충족해야 합니다.
• 아무튼 이번에 EU의 AI 법이 발효되었음에도 불구하고 대부분의 조항은 2026년까지는 위반에 따른 패널티는 없을 것으로 보입니다. 유예기간을 주는 것이죠.

이번 AI 법에 대한 의미는 뭐야?

• 이번 EU의 AI 법의 의미를 간단히 살펴 봅니다. 
• 사실 AI 기술을 이끌고 있는 빅테크 기업들에게는 반가운 소식은 아니겠죠.
• 하지만 기업들의 책임 있는 AI 개발을 촉진하고 유도할 수 있는 공식적인 가이드를 제공했다는 의미가 큽니다.
• EU 전체에 통일된 규제 프레임워크를 제공함과 동시에 이번 AI 법이 전세계적인 AI 규제의 레퍼런스가 될 가능성이 높습니다. 이미 GDPR도 그런 절차를 밟았습니다.
• 위험 기반 접근으로 AI 시스템을 분류하고 규제함으로써 무분별한 AI 적용에 제동을 걸게 되었습니다.
• 물론 AI 발전에 발목을 잡는다는 문제 의식도 분명히 있습니다. 혁신적 기술의 개발의 활성 단계에 찬물을 끼얹어서 기술의 진보를 막는다는 의견들이죠. 
• 그리고 EU가 미국에 뒤쳐진 AI 기술을 따라잡기 위한 방편이라는 목소리도 있는 것도 사실입니다.

• 이번 <수요레터>에서는 EU의 AI 법에 대해 살펴봤습니다.
• 세계 최초로 발효된 AI 법에 대해 알아보면서 AI 산업의 방향성에 대해 한번 더 생각해 볼 시간이 되었길 바래 봅니다.
• 다음에도 또 흥미로운 이야기로 찾아뵙겠습니다.

감사합니다.

촌장 드림

참고문헌

• World’s first major AI law enters into force — here’s what it means for U.S. tech giants - 참조
• 오픈AI 공동창업자 일리야 수츠케버, 오픈AI 떠난다 - 참조
• World’s first major law for artificial intelligence gets final EU green light - 참조
• EU 규제에…메타도 새 AI 유럽 출시 포기 - 참조

챗GPT, 새로운 음성 모드 장착

오픈AI는 챗GPT에 새로운 음성 모드를 도입하여 더 자연스럽고 즉각적인 AI와의 대화를 가능하게 했다. 이 모드는 숨 쉬는 효과를 구현하여 실제 사람과 대화하는 느낌을 주며, 사용자가 AI의 말을 중간에 끊고 대화를 이어갈 수 있다. 새로운 기능은 현재 일부 유료 사용자에게 제공 중이며, 올가을까지 모든 플러스 사용자에게 확대될 예정이다. (기사보기) 

구글 포토 AI 편집 무료로 사용한다

구글 포토는 AI 기반 편집 도구를 전면 무료화하여, 사용자들이 매직 에디터, 매직 이레이저, 사진 흐림 제거, 인물 조명 등 다양한 편집 기능을 제한 없이 이용할 수 있게 했다. 이로 인해 구독 없이도 누구나 프로 수준의 사진 편집을 할 수 있으며, AI 도구의 사용 범위가 대중에게 널리 확산될 것으로 기대된다.

 (기사보기) 

AI 로봇 피규어 02 가 곧 등장

피규어 AI는 “세계에서 가장 진보한 로봇”이라는 새로운 휴머노이드 로봇 ‘피규어 02’의 티저 영상을 공개했다. 영상에는 로봇의 손발, 관절, 유연성 등을 강조하며 최대 150Nm의 토크와 195도의 움직임 범위를 소개했다. 피규어 AI는 지난 2월 큰 투자 유치를 받아 눈길을 끌었으며, 현재 BMW 생산 라인에서 로봇 테스트 중이다. (기사보기) 

엔비디아 최신 AI 칩 블랙웰 출시 연기

엔비디아의 최신 AI 칩 ‘블랙웰’의 출시가 설계 결함으로 인해 내년 1분기로 지연된다. 이로 인해 오픈AI, 메타, xAI 등의 AI 개발에 필요한 GPU 수급 계획이 차질을 빚을 것으로 예상된다. 주요 클라우드 업체와 AI 기업들은 기존 H100 GPU를 사용해 개발을 이어가고 있다. (기사보기) 

AI 워싱 주의보 발동

최근 AI 관련 기업들의 주가 하락과 함께 ‘AI 워싱’ 주의보가 내려졌다. 이는 AI 기술을 실제로 활용하지 않거나 과장하는 기업들이 증가하고 있어 산업에 부정적인 영향을 미치고 있다는 지적이 나오고 있다. 대표적인 사례로 아마존의 무인 매장 ‘아마존 고’가 언급되며, 이러한 과장 마케팅이 투자 유치에 유리하게 작용하고 있다는 분석도 제기된다. (기사보기)