서울 27º
습도 75%
춘천 26º
습도 90%
전주 27º
습도 80%
 1분기 실적 발표 컨퍼런스콜(전화회의)...'))
엔비디아가 실적 상승에도 불구하고 대(對)중국 H20 수출 허가 지연으로 약간의 주가 하락이 나타났으나, 더 주목을 끈 것은 젠슨 황 최고경영자(CEO)의 ‘생성형 인공지능(AI) 거짓말 어떻게 대처할 것인가’에 관한 발언이다. 황CEO는 27일(현지 시간) 1분기 실적 발표 컨퍼런스콜(전화회의)에서 로봇시스템과 자율주행차 등 ‘물리적 AI’의 큰 발전과 더불어 몇 가지 미래 전망을 제시한 가운데 “2030년까지 AI 인프라 투자 규모가 3조∼4조 달러에 이를 것으로 예상한다”며 “향후 우리 사업의 큰 동력은 ‘추론AI’와 ‘숙고AI’ 시스템으로의 전환이 될 것”이라고 말했다.
그는 AI가 더 정확한 답변을 산출해 줄 “이런 AI애플리케이션엔 훨씬 더 큰 연산 자원(GPU능력)이 필요하다”며 “생성형AI ‘환각’(Hallucination) 현상의 상당한 감소”를 예로 들었다. 이것이 Hallucination을 비튼 ‘Hullucinatin’으로 통용되기도 한다. 생성형AI(챗GPT·클로드·제미나이 등)가 사실이 아닌 내용을 그럴듯하게 만들어내는 현상을 말한다. 2007년 미국에서 NBC유니버설·디즈니 등이 초기 주주로 참여해 출범한 ‘할루’(Hulu)와 Hallucination을 뒤섞은 신조어 내지 밈이다. Hulu에선 주요 방송사의 TV드라마· 영화·다큐멘터리나 오리지널 콘텐츠를 제공한다. 넷플릭스 같은 구독형 스트리밍 서비스이다.
존재하지 않는 책·논문을 출처로 제시하거나 인물의 경력·날짜 꾸며내기 등 AI가 자신 있게 틀린 정보를 생성하는 것 등이 ‘할루시네션’이다. 생성형AI란 ‘다음 단어가 무엇일까’ 확률 계산에 기반한다. 데이터에 없는 사실을 물어볼 경우 빈칸을 억지로 채우듯 그럴싸한 답을 내놓는 것이다. AI모델이란 ‘논리적 참·거짓 검증’ 엔진이 아니라 ‘언어 패턴’을 예측하는 엔진일 뿐이다. 2023년 미 법정에선 생성형AI가 만들어 낸 판례를 법정에 제출한 변호사가 징계를 받은 사례마저 나왔다.
이에 모델이 생성할 때 실시간 검색(데이터베이스 조회)을 병행해 출처 기반 답변을 강화하는 게 대안으로 제시되고 있다. 출처를 명시하도록 해 사실 검증을 강화하면 인용 시 실존하는 문헌만 제공하도록 필터링하기 쉬워진다. 최근 연구자들이 AI가 스스로 ‘답변 확신도’를 표시하게 하는 것을 개발 중이다. 미래의 하이브리드 AI모델에선 ‘언어모델+논리·추론 엔진’을 결합해, 참·거짓 판별을 강화할 수 있다. 사용자들 역시 AI 답변이 ‘참고자료’이지 최종 팩트가 아님을 명확히 인식해야 한다.
황 CEO는 이번 콜에서 “추론AI와 숙고AI로의 전환이 엔비디아 사업의 차세대 동력”이라고 강조하면서, 더 정교한 연산 자원이 투입될수록 할루시네션 발생률은 줄어들고 신뢰도 높은 AI 서비스로 발전할 수 있다고 덧붙였다.
작년 3월 GPU기술회의(GTC) 때 이미 황CEO는 ‘AI와의 대화’에서 생성형AI가 답변할 때 연구를 먼저 수행해야 한다고 언급한 바 있다. “할루시네션(환각)이 검색 보강(retrieval-augmented generation·RAG) 방식으로 충분히 해결 가능하다”며 “답변을 찾아 먼저 검증한 뒤 가장 적합한 답을 제공하도록 설계하는 방식을 통해 AI가 단순 챗봇이 아니라 ‘검색 보조’처럼 작동하도록 할 수 있을 것”이라고 기대를 표했다.
작년 11월 홍콩과학기술대학교 인터뷰에선 현재 AI 답변이 신뢰 가능한지 사용자 스스로 판단해야 하는 상황이라며 “더 나은 신뢰도 확보를 위해 계속 컴퓨팅 파워를 늘려야 한다고 강조했다. 아울러 AI의 할루시네션 억제를 위한 세 가지 주요 기술 혁신을 간단히 설명했다. ‘인간의 피드백을 통한 모델 정렬 방식(Reinforcement Learning from Human Feedback), 모델이 불필요한 영역으로 답변을 확장하지 않도록 제어하는 ‘가드레일링’ ‘외부데이터 검색 기반 검증(RAG)’ 등이다.
후원하기
이 기사에 대해 어떻게 생각하시나요?
추천해요
좋아요
감동이에요
화나요
슬퍼요
추천해요0
좋아요0
감동이에요0
화나요0
슬퍼요0
기사제보 
