할루시네이션의 오해와 진실

LLM 모델은 하루가 다르게 그 성능이 업데이트되고 있습니다. AI가 멀티모달이 가능해지면서 기존 텍스트 뿐만 아니라 이미지, 오디오, 비디오 등 다양한 종류의 데이터를 이해하고 생성할 수 있는 수준이 되었구요. 학습과 추론 성능도 좋아져서 복잡한 대화의 맥락을 더 정확히 이해하고 대답할 수 있게 되었습니다. 단계별 사고(CoT), 검색증강생성 (RAG) 등의 기법들로 추론 능력을 높혀서 더 정확한 답변을 낼 수 있는 AI로 발전되어 가고 있기도 합니다. 최근에는 단순한 답변을 넘어서 AI 스스로 자율적으로 계획을 세우고, 외부 도구들을 연결해 실제로 미션을 수행할 수 있는 Agentic AI로의 진화도 가속화되고 있는 중이죠.

하지만 이렇게 놀라운 향상에도 불구하고 언어 모델이 완전히 해결하기 어려운 과제 중 하나가 바로 할루시네이션 Hallucination 입니다. AI 모델들이 업데이트됨에 따라 할루시네이션 증상이 확실히 개선된 것은 맞습니다. 하지만 그럼에도 불구하고 최신의 모델에서도 할루시네이션은 여전히 발생하고 있고, 가장 정확한 답변을 요구하는 분야에 있어서도 할루시네이션을 완전히 막아내지는 못하고 있습니다. 왜 그럴까요?

언어 모델이 할루시네이션 증상을 겪는 이유는 언어 모델의 기술적인 이유 뿐 아니라 학습 및 평가 방법 때문이라는 논문이 발표되었습니다. 오픈AI가 발표한 내용인데요. 언어 모델에 대한 학습 및 평가가 불확실성을 인정하는 쪽보다는 추측을 오히려 장려하는 쪽으로 바이어스되어 있기 때문에 할루시네이션이 근절되지 못하고 있다고 지적하고 있어요. 잘 모르겠다고 답변하는 것보다는 뭐라도 답변하는 쪽이 더 낫다고 교육을 받았기 때문에 근본적으로 할루시네이션이 발생할 수 밖에 없다는 주장입니다. 흥미롭지 않나요?

이번 <수요 레터>에서는 할루시네이션에 대한 진실과 오해, 한번 살펴보도록 하겠습니다.

<할루시네이션의 오해와 진실 > 읽으러 가기 (읽는데 4분15초)

🤖 Weekly Tech•AI•Security News

두께 5.6㎜ 아이폰 에어, 애플 역대 가장 얇은 아이폰 공개

애플이 9일(현지시간) 쿠퍼티노 본사에서 열린 신제품 공개 행사에서 아이폰17 시리즈를 발표했다.
이번 라인업에는 플러스 모델이 제외되고 대신 두께 5.6㎜의 초슬림형 ‘아이폰 에어’가 새롭게 추가됐다. 아이폰 에어는 티타늄 프레임과 특수 코팅으로 내구성을 강화했으며, 전면 카메라는 ‘센터 스테이지’ 기능이 탑재돼 자동 프레임 확장과 세로·가로 촬영을 지원한다.
기본 모델은 디스플레이가 6.3인치로 커지고 카메라 화소가 2천400만 화소로 늘었으며, 프로·프로 맥스는 직사각형 카메라 모듈로 배터리 용량과 열 방출 성능이 개선됐다.
가격은 기본 모델 799달러부터 시작하며, 12일부터 사전 주문이 가능하고 19일부터 전 세계 63개국 이상에서 판매된다는 뉴스

기사보기

앤트로픽, 2조 합의로 저작권 소송 종결

앤트로픽이 불법 복제 도서를 AI 학습에 사용했다는 혐의로 제기된 집단 소송에서 15억달러(약 2조842억원)를 지급하기로 합의했다.
이는 AI 관련 저작권 분쟁 중 가장 큰 합의 규모로, 작가 측은 인공지능 시대 최초의 저작권 인정 사례라고 강조했다.
앤트로픽은 700만권 이상의 불법 복제 도서를 다운로드해 학습에 활용했으며, 이 중에는 ‘북스3(Books3)’ 데이터베이스가 포함돼 있었다.
합의 조건에는 50만권당 3000달러 지급 및 불법 데이터 파기가 포함됐으며, 법원 심리는 8일 예정돼 있다.
이번 합의는 향후 메타 등 다른 AI 기업이 진행 중인 40여건의 소송에도 큰 영향을 미칠 것으로 보인다는 뉴스

기사보기

국가인공지능전략위원회 공식 출범

과학기술정보통신부는 대통령 직속 국가인공지능전략위원회가 8일 공식 출범했다고 밝혔다.
1차 회의에서는 AI 3대 강국 도약을 위한 ‘AI 액션플랜’, ‘국가 AI컴퓨팅센터 추진 방안’, ‘AI 기본법 하위법령 제정 방향’ 등이 논의됐다.
위원회는 12대 전략 분야 대표 과제를 포함한 각 부처 이행 과제를 11월까지 수립해 발표할 예정이며 2026년 1월 시행 예정인 AI 기본법 하위법령에는 AI R&D, 학습 데이터 구축, 인력 확보, 해외 진출 지원, 안전·투명성 확보, 영향평가 등 세부 기준이 담겼다.
제도 안착을 위해 과태료 계도기간도 운영하기로 했다는 뉴스

기사보기

보스턴 다이나믹스 로봇 아틀라스, 훈련 없이도 물건 주워 드는 ‘발현 능력’ 시연

Boston Dynamics의 휴머노이드 로봇 아틀라스가 이제 단순한 파쿠르와 춤 동작을 넘어서, 하나의 인공지능 모델만으로 걷기와 물건 잡기를 동시에 수행할 수 있게 됐다.
토요타 리서치 인스티튜트(TRI)와 함께 개발된 이 단일 학습 모델은 팔과 다리를 통합적으로 제어하며, 물건을 놓쳤을 때 본능적으로 다시 줍는 등 훈련되지 않은 ‘발현(emergent)’ 행동도 보였다.
이 모델은 시각 센서, 몸의 위치와 움직임을 감지하는 고유수용감각 데이터, 그리고 언어 프롬프트를 기반으로 다양한 예시 동작을 학습했다. 로봇이 물건을 꺼낼 때 사람처럼 다리 자세를 조정하는 등 자연스러운 움직임을 보였고, 연구진은 이를 대규모 언어모델(LLM)과 유사한 발전 경로로 해석했다.
전문가들은 실제 환경에서 다양한 작업을 수행할 수 있는 범용 로봇으로 발전할 가능성을 보지만, 발현 행동에 대한 과대평가는 경계해야 한다는 뉴스

기사보기

오픈AI, 브로드컴과 자체 AI 칩 생산 발표

오픈AI가 브로드컴과 협력해 내년부터 자체 인공지능(AI) 칩을 생산할 계획이라고 파이낸셜 타임스가 보도했다.
브로드컴은 “100억달러 규모의 맞춤형 XPU 주문이 확정됐다”고 발표했으며, 전문가들은 해당 고객이 오픈AI라고 지목했다.
이번 칩은 TSMC 3나노 공정으로 제작돼 2026년까지 대량 생산될 예정이며, 우선 내부 운영에 투입된다. 이는 GPT-5 수요 증가와 컴퓨팅 역량 확충을 위한 조치로, 오픈AI는 향후 5개월 내 컴퓨팅 자원을 두 배로 확대할 계획이라고 밝혔다.
이 소식에 브로드컴 주가는 하루 만에 9.4% 급등했으며, 시가총액은 1조6000억달러에 도달했다는 뉴스