AI 환각 (AI Hallucination)에 대한 단상
생각을 어떻게든 적어두지 않으면 시간이 지나 잊혀져서 약간은 두서없을 나의 생각을 적는 다는 의미로 "~에 대한 단상"이라는 글들을 적어보려고 한다.
오픈 AI의 ChatGPT가 촉발한 생성형 AI는 기념비적인 과학기술의 발전으로 진보할 것이라는 기대감과 다른 한 편으로는 이 놀라운 신기술로 촉발될 부작용에 대한 걱정이 동시에 대두하고 있다.
난 커리어를 개발자로 시작했고(현재는 DBA로...) 세부분야는 다르지만 IT라는 동종업계에서 일하고 있다보니 생성형 AI가 가져올 부정적인 측면에 대한 걱정보단 긍정적인 측면을 기대하는 편이다.
보편적이라고는 할 수 없지만 내 주변의 비 IT업계에서 일하는 다른 사람들의 의견은 주로 부정적인 측면을 더 걱정하는 편이라서 이 글을 쓰게 되었다. 내 경우에는 의견을 주고 받는 대화를 하거나 이렇게 글로 정리해서 적으면서 내 생각이 정제되는 경우가 많아서 굳이 글로 만들어서 생각도 정리할 요량이다.
생성형 AI가 가져올 부정적인 걱정거리들이 아주 많을테지만, 난 그 중에서 대표적으로 거론되는 AI 환각(AI Hallucination)에 대해서만 나의 단편적인 생각들을 적어본다.
과학기술의 발전은 역사적으로 항상 지킬박사와 하이드처럼 양면성을 가지고 있다. 그 내용을 기술하고자 한다면 너무 내용이 길어지니.. 애용하는 Perplexity의 링크를 첨부한다.
Perplexity 질의 내용 및 답변
Q) 질의 내용 : 과학기술의 진보가 불러온 긍정적인 측면과 부정적인 측면의 예를 과거 세계역사에 비교해서 분석해줘.
A) https://www.perplexity.ai/search/gwahaggisulyi-jinboga-bulreoon-epZ.LFgxQU.r.856QSVTkw
AI 분야의 전문가는 아니지만 컴퓨터공학을 전공했고, 현재 동종업계(좀 멀긴하다..)에서 일하고 있는 엔지니어로서의 결론은 현재 단계의 AI 환각은 당연하고, 걱정할 필요가 없다는 것이다.
기본적으로 기계나 컴퓨터 시스템과 같은 자동화 시스템은 '인간을 모방하는 것'이 목적이다. 기계적인 시스템은 인간의 육체적인 작업을 모방해서 생산이나 수송과 같은 물리적인 작업을 자동화 또는 보조하는 용도로 만들어졌고, 컴퓨터 시스템은 주로 인간의 두뇌활동을 모방해서 인간이 할 일을 대체하거나 보조하도록 개발되고 있다. 근본적으로 기계나 컴퓨터 시스템의 지향점이 결국 인간인 것이다.
컴퓨터시스템 이전에 인간의 육체활동을 모방해서 만들어진 수 많은 공장시스템, 공장로봇시스템에도 여전히 오류가 있다. 그 오류를 인지하고 대처해주는 것은 여전히 사람이 할 수 밖에 없으니 수 많은 공장에 여전히 인간 노동자를 고용할 수 밖에 없는 것이다.
컴퓨터 시스템도 마찬가지의 오류가 있다. 그 많은 오류를 고치고, 새로운 기능을 추가하고 유지관리를 위해서 소프트웨어 회사나 전산시스템을 가지고 있는 회사들은 개발자들을 고용한다.(나도 그래서 월급을 받고있다... 😂)
생성형 AI는 인간의 두뇌활동을 모방해서 만들어졌고 그 오류 중에 대표적인 것이 AI 환각현상인 것이다.
난 현재의 생성형 AI시스템은 인제 막 태어난 아이와 같다고 생각한다.
아이를 키워본 부모들은 대부분 유사한 경험을 한다. 아이들은 부모의 말을 듣는 것부터 배우다가 서투른 발음의 단어를 뱉어내고, 단어의 조합을 사용하다가 어느 순간부터 대화를 시작한다.
아이들마다 수준의 차이는 있겠지만 현재 초등학교 1학년 학생의 부모의 경험으로는 아직도 여전히 아이는 이해하기 어려운 말을 하기도 하고 잘 못된 단어를 혼용하기도 하고, 가끔 해서는 안될 말을 하기도 한다. 그렇지만 배우는 단계라고 생각해서 옆에서 정정해주고, 가르쳐주고, 혼내기도 한다.
마찬가지로 현재 단계의 생성형 AI의 환각현상은 "아직 학습단계"라고 생각한다. 그러니까 아이를 키우는 부모처럼 많은 회사에서 아주 많은 비용과 시간을 들여서 계속 AI에게 데이터를 주고 학습시키고 있다고 생각한다.
난 과학기술에 대해서 낙관주의를 가지고 있는 편이라서 아마도 향후 10년 내에는 생성형 AI가 성숙한 단계로 진입할 것이라고 생각하고, 그 단계까지 이르면 아마도 저비용(=저전력)으로도 꽤 쓸만한 수준의 생성형 AI시스템을 사용할 수 있을 것이라고 생각한다.(이미 On-device AI기능을 제공하는 스마트폰에서 특정 기능을 수행하는 것을 체험해보니 꽤 쓸만하더라.)
또 다른 질문을 스스로 해보면...
위 질문은 아무리 생각을 해봐도 내 의견은 "여전히 AI 환각을 존재할 것"이다.
첫 번재 질문의 답변이 생성형 AI가 아직 어린 아이 단계니까 이해가 되고, 심각하지 않다라는 것이였다. 두 번째 질문의 답변을 쉽게 말하면 "어른도 헛소리는 여전히 한다"라는 것이다.
인간사회의 많은 수를 이루고 있는 성인들도 부정확한 기억이나 편향적인 사고, 이해 능력 부재 등등의 이유로 상호 간에 기대 이하의 대화가 이어지거나 엉뚱한 답변이 나올 수 있다.
아마도... 생성형 AI 시스템이 성숙한 단계에 이르러도 AI 시스템의 수준에 따라서 부정확한 답변이나 편향적인 답변이 나올 것 같다.
앞서 이야기했던 것처럼 인간을 모방해서 만든 AI 시스템이므로 인간이 가지고 있는 한계를 여전히 그대로 가지고 있을 확률이 높아보인다.
인간과 인간들이 이루고 있는 사회도 여전히 많은 문제점을 가지고 있다. 서로 다른 의견들, 편향적인 사상, 서로 다른 이권 등으로 인간사회가 가지고 있는 많은 문제들도 해결이 쉽지 않다. 그런데 그 인간들이 인간의 두뇌활동을 모방해서 만든 AI 시스템이 인간들의 근본적인 문제를 해결할 수 있을 것이라고 생각하는 것은 기술낙관주의를 넘어서 기술만능주의 아닐까?
사실 내가 생성형 AI 시스템에 대해서 걱정하는 것은 AI 환각 자체가 보다는 향후에는 아마도 AI가 먹고 성장할 데이터가 인간이 생성한 데이터보다 AI 시스템들이 만든 데이터일 확률이 높다는 것이다.
확대해서 추측해보자(과장적으로!). 인간과의 상호작용없이 생성된 데이터로 성장하는 AI가 생긴다면, 이건 환각이 아니라 지구에 또 다른 종(種, Species)이 탄생하는 것이 아닐까.. 더군다나 로봇으로 물리력까지 갖춘다면 정말 영화 속에 나오는 로봇과의 전쟁이 현실화되는 것이다.
물론 현실적으로는 많은 과학자들과 전문가들이 적절한 규제와 통제를 할테니... 개인적으로는 향후 10년 내에 쓸만한 AI 시스템이 현재의 스마트폰과 같은 지위를 계승하지 않을까 싶다.
현재 많은 사람들이 상상하는 것처럼 인간과 거의 대등한 지적 능력을 가진 AI 시스템이 생기는 것은 아마도 더 많은 과학적인 진보가 필요할 것 같고, 대중화될 AI 시스템은 인간의 업무나 서비스를 보조하는 정도(현재의 키오스크보다는 좀 더 향상된...?)의 수준에서 머물지 않을까 싶다. 그 이상 발전한다면 인간도 위협을 느껴서 감정적으로나 제도적으로 AI 시스템에 대한 제한이 생길 것 같다.
1. 생성형 AI 시스템의 AI 환각은 미성숙 단계인 현재로선 당연함
2. 인간 두뇌활동을 모방한 생성현 AI시스템은 인간의 한계를 그대로 승계할 것 같음
3. 향후 10년 내에는 AI 시스템이 대중화가 되겠지만 인간을 보조하는 정도의 수준으로 유지될 것 같다.
위에 작성한 글은 전문가이고 싶은 비전문가의 글이니... 그냥 논쟁하고 싶은 사람의 수다정도로만 생각하자. 그냥 내 생각을 기록으로 적어두고 싶었던 것 뿐이다.