안녕하세요, 촌장입니다.

AI를 둘러싼 규제가 본격적으로 현실이 되고 있습니다. 그것도 세계에서 가장 강력한 소비자 보호 규제를 만들어온 유럽연합(EU)의 손에서 말이죠.

지난주, 유럽연합 집행위원회는 ‘AI법(A.I. Act)’의 구체적 집행을 위한 행동 강령(code of practice)을 공개했습니다. AI 시스템의 투명성을 높이고, 저작권 침해의 문제를 해결하며, 공공의 안전을 보호해야한다는 내용을 규정하고 있는데요. 적용 대상은 범용 AI(General-Purpose AI)를 개발하고 있는 오픈AI, 구글, 마이크로소프트 같은 핵심적인 빅테크 기업들에 한정되어 있습니다. 당장 25년 8월 2일부터 적용되지만, 불이행에 대한 실제적인 제재는 26년 8월부터 시행된다고 EU 집행위원회가 밝혔습니다. 1년 정도의 유예 기간을 두는 거죠.

“AI는 혁신이어야 하지만, 동시에 안전하고 투명해야 한다.”

EU의 기술·민주주의 담당 부위원장인 헨나 비르쿠넨의 말입니다. 이번 규정은 그 말을 실행에 옮긴 첫 번째 사례라고 볼 수 있겠죠. 이번 수요레터에서는 이번 EU의 AI 행동강령에 포함된 핵심 내용에 대해 살펴보고, 그 의미들을 짚어볼까 합니다. 그리고 AI 빅테크 기업들의 반응과 대응에 대해서도 체크해 볼께요. 시작해 볼까요?

실천 강령에 포함된 내용

이번에 발표된 행동 강령(code of practice)은 투명성, 저작권 그리고 안전성 이렇게 세 개의 부분으로 구성되어 있습니다.

투명성

이번 행동 강령에는 AI의 투명성에 대한 규정을 명확히 하고 있습니다. AI 기업들은 AI 모델의 핵심 요소들 (학습시간, 계산량, 데이터 수집에 관련된 내용 등)을 AI 표준화 템플릿에 따라 문서화하고 공지해야할 의무를 가지게 됩니다. 오픈소스 모델 뿐 아니라 상용화된 AI 모델들도 알고리즘과 학습 과정 등에 대한 구체적인 정보를 공개해야 한다고 명시한 건데요. 그동안 알려지지 않았던 AI 모델들의 ‘블랙박스’가 열릴 수 있는 계기가 되지 않을까란 기대와 함께 AI 테크 기업들의 기술 노하우를 공개하는 것에 대한 반대도 만만치 않을 것 같습니다.

저작권

또한 이번 행동 강령에는 AI 모델의 훈련에 사용된 데이터 및 콘텐츠에 대한 상세한 목록을 제공하도록 규정하고 있습니다. 이 부분은 오랫동안 지식재산권 침해에 대해 불만을 가져온 미디어들과 창작가들의 의견을 반영한 결과라고 볼 수 있을 겁니다. 더욱이 주목할 점은 이번 행동 강령에 저작권 침해 문제가 발생했을 때의 어떻게 대응해야 하는지의 구체적인 내용까지 명시했다는 점입니다. 현재 AI 저작권과 관련된 많은 소송들이 진행되고 있는데, 향후에 이런 판결들에 큰 영향을 끼칠 뿐 아니라 앞으로 있을 다양한 분쟁들의 가이드 역할을 하게될 것으로 기대하고 있습니다.

안정성

테크 기업들은 인류를 위헙하는 생물무기 개발 등에 AI가 악용될 가능성이 얼마나 되는지 스스로 위험 평가를 수행해야 하는 의무를 가지게 됩니다. AI의 성능을 향상시키는 노력 뿐 아니라 AI가 사회에 미칠 수 있는 영향력을 고려하여 보다 안전한 AI 개발이 이루어져야 한다는 점을 강조한 강령인데요. 향후 AGI 가 출연했을 때 인류에게 해악이 되지 않도록 선제적인 개발 프레임워크를 적용할 수 있지 않을까 기대해 봅니다. 얼마 전 일론 머스크의 AI 기업인 xAI 가 개발한 Grok이 히틀러를 찬양하는 반유대적인 발언을 여러번 공유해서 문제가 된 적이 있었죠. AI의 안전과 보안은 AI 개발에 가장 중요한 요소임을 부인할 수 없을 겁니다.

AI 행동 강령의 의미

이번 EU의 행동 강령은 AI법을 구체적으로 어떻게 준수해야할 것인가에 대한 첫 번째 지침이라는 측면에서 큰 의미가 있을 겁니다. 몇 가지 정리를 해보면,

기업의 행정 부담 감소

기업들이 AI법을 준수함으로써 기업 스스로의 행정 부담을 줄이고, 법적 확실성이 높아지는 혜택이 있다는 점을 EU에서는 강조하고 있습니다. 이 강령에 호응하지 않으면 다른 방식으로 AI 법의 준수를 증명해 내야 하는데 오히려 이런 방식이 더 많은 비용과 시간이 소요될 수도 있습니다.

전문성과 공정성

이번 행동 강령은 EU의 AI 사무국이 주도하고 13명의 독립적인 전문가 그리고 1,000명의 이해관계자들이 참여해서 6개월 걸쳐 작업한 결과물이기 때문에 전문성과 공정성 모두 납득할 만한 결과물이라는 평가가 많습니다. AI법의 구체적인 실행을 위한 효과적인 가이드라인이 될 수 있을 거라는 전망이죠.

기술주권

기술 주권에 대한 고민도 이번 행동 강령에 포함되어 있다고 볼 수 있습니다. 미국과 중국에 비해 빅테크가 턱없이 부족한 유럽은 AI 서비스를 거의 외국 기업에 의존한 채 데이터만 제공해오고 있는 거 아니냐는 비판과 반성이 있었던 게 사실이죠. 특히 ChatGPT나 Gemini 같은 범용 AI는 유럽에서 훈련된 데이터로 만들어지면서도, 저작권이나 공공안전 문제에 대한 책임은 애매하게 회피해 왔으니까요. 이번 행동 강령은 이런 흐름에 제동을 걸기 위한 장치라고 보는 견해도 많습니다.

이후 일정

앞으로 8월2일에 이번 행동 강령이 발효되기 전에 보다 구체적인 추가 가이드라인이 발표될 예정이고, 적정성 평가를 거쳐 최종 승인이 진행 예정이라고 합니다.

AI 행동 강령의 한계

이번 AI 강령의 여러 긍정적인 점에도 불구하고 여전히 한계가 있다는 지적도 나오고 있습니다.

결국은 절충안

규제처럼 보이지만 실제로는 빅테크 기업들의 로비에 의한 절충안에 불과하다는 입장입니다. AI 정책을 다루는 시민단체 Future Society의 닉 모에스는 “기술 기업들이 이번 행동 강령의 내용 변경을 위해 벌인 로비 활동 덕분에, 결국 무엇이 허용되는지를 기업 스스로 결정하게 됐다”고 지적하고 있는데요. 규제가 아니라 기업의 자율성에 맡기는 행동 가이드는 영향력이 제한될 수 밖에 없다는 겁니다.

기업들의 보이콧

그래서인지 당장 AI 빅테크 기업이 이 행동 강령에 참여할 지는 명확하지 않습니다. 이미 행동 강령에 불만을 노출했던 메타는 이번 방향에 참여하지 않을 것으로 보이고, 구글과 오픈 AI 역시 검토 중이란 의견을 밝혔습니다. 마이크로소프트는 별도의 의견을 내지 않고 있고, 아마존이나 유럽의 미스트랄 역시 반응이 없습니다.

혁신의 발목잡기

그리고 무엇보다 이런 AI법이 기술 혁신의 발목을 잡을 수 있다는 우려가 크죠. 안그래도 유럽은 오랫동안 자국 내 대형 테크 기업을 제대로 키우지 못했고, 외국 기업의 서비스에 의존해 오고 있는데, AI 개발의 투명성을 강제하고 있기는 하지만, 자국의 AI 테크 기업들의 발전도 저해할 수 있다는 지적입니다. 여기에 트럼프 행정부의 관세 및 무역 갈등까지 더해지며, 규제를 둘러싼 논쟁이 심화되고 있다는 정치적인 측면도 이번 행동 강령에 대한 우려를 키우고 있습니다.

메타 출신의 유럽의회 의원 아우라 살라는 “규제가 EU의 대표 수출품이 돼서는 안 된다”며, “이런 방식은 유럽 기업들에 해를 끼친다”고 말하기도 했습니다.

김치 싸대기

여러 논쟁에도 불구하고, EU가 먼저 AI 방향에 대해 의견을 정리하고 구체적인 행동 강령까지 만들어 실행을 시작했다는 점에 큰 박수를 보내고 싶습니다. AI는 너무 빠르게 진화하고 있습니다. 국경의 제한도 없고, 확산 속도는 그 어떤 기술보다 압도적입니다. 개별적인 인간의 능력을 뛰어 넘은지 이미 오래이고, 인간보다 더 똑똑한 슈퍼 AGI 를 향해 질주하고 있는 중입니다. 인간의 삶을 더 윤택하게 만들 수 있다는 낙관론도 많지만, 우리가 제어하지 못하는 상황에 이를 수도 있다는 디스토피아적인 전망도 점점 현실화되어 가고 있는 것도 사실이죠. 이런 상황 속에서 AI의 개발 방향을 테크 기업 스스로에게만 맡기다는 건 너무 위험해 보이지 않나요?

EU가 지금 그 어려운 길을 걷고 있습니다.

AI가 사람보다 더 많은 권한을 가지기 전에, 누군가는 기준을 세워야 한다는 점엔 다들 동의하실 겁니다. AI법과 행동 강령에 아직은 부족한 점도 많고 앞으로 진행되면서 여러 실수들도 있겠죠. 처음은 다 그런 법입니다. 그래서 응원을 보내야 합니다. 힘을 실어줘야죠. 그래야 균형이 잡힙니다. 그래야 잘못된 방향의 질주를 멈출 수 있습니다. 스스로 자신들이 어디로 향해 가고 있는지 모른 채 경쟁의 프레임에 갖혀 있을 빅테크들에게 김치 싸대기를 날리며 정신 차리라고 해야죠. 이번 행동 강령이 시원한 각성제가 되길 기대해 봅니다.

EU의 행보에 개인적인 박수를 보냅니다.

촌장 드림

AI 시대, 애플과 메타의 리더십이 흔들린다.

AI 패권 경쟁에 브릭스가 던진 새로운 균형 제안

• 잇츠맨 웨비나 채널  👉 바로 가기
• 잇츠맨 YouTube 👉 보러 가기
• 잇츠맨 프로그램 제안서 👉 제안서 보기
• 잇츠맨 eDM 홍보 문의 👉 제안서 보기
• 지난 수요레터 아카이빙 👉 다시 읽기 

• 오늘 수요레터 잘 읽으셨나요?
• 소중한 피드백 남겨주세요 👉 바로가기

• 테크엔돌핀 💊 의 에너지를 매주 수요일 오전 9시 받아보세요! 👉 구독하기