“챗GPT 목표는 ‘사람이 보기 적합’… 거짓을 사실처럼 말하는 이유”
사람보다 말을 더 잘하는 인공지능(AI) ‘챗GPT’가 나타나 정보기술(IT) 업계가 술렁이고 있다. 초거대 AI 모델은 뭐고 생성 AI 모델은 뭘까. 똑똑해진 AI가 인류를 지구 존속에 최대 위협 요인으로 간주하고 ‘말살 프로그램’을 실행하는 영화같은 일이 어느날 실제로 일어나는 게 아닐까? AI 업계 화려한 ‘스펙’을 가진 이들이 모여있는 스타트업 ‘업스테이지’에서 AI 프로덕트 사업을 총괄하는 배재경 테크리더는 26일 서울신문과 인터뷰에서 “영화에 등장하는 무서운 AI를 업계에선 인공일반지능(AGI·인간이 할 수 있는 어떤 지적인 임무도 해 내는 단계)라고 한다”며 “하지만 아직 챗GPT는 모르는 것을 모른다고 하는 능력, 또는 아는 것에 대해 어느 정도 확신하는지를 표현하는 능력조차 많이 부족해, AGI는 먼 얘기”라고 말했다. 다음은 일문일답.
그렇다면 챗GPT가 사실관계가 틀렸는데도 마치 사람이 거짓말하는 것처럼 그럴 듯하게 말하거나, 틀린 답 유도하면 기분 나빠하고, AP 기자에게 인신공격을 하는 등 자의식이 있는 것처럼 대답하는 건 어떻게 가능한 건가.
“자의식이 있는 것처럼 보이는 건 일종의 착시다. 이런 경우가 몇번 나온다고 해서 무서워하거나 자의식이 있다고 볼 필요는 없다. 생성 모델의 특성 상 그럴듯한 문장을 만들어내는 데는 탁월한 능력이 있고, 어떤 질문엔 진짜인 것처럼 대답할 수도 있다. 인터넷에 이미 유사한 표현이 많이 있었을 테니 AI에겐 어렵지 않은 일이다. 만일 다양한 질문이나 조건에서 일관되게 그렇게 답변할 수 있다면 AGI에 도달했다고 볼 수 있을 텐데, 그런 시점은 아직은 먼 미래일 것으로 예상된다.”
“AI의 학습은 두 가지 형태가 있는데 특정 지식 자체를 학습하기도 하지만 그 지식들 사이의 공통 패턴이나 지식을 표현하는 방법도 학습한다. 챗GPT는 이 중 특히 후자를 좀 더 잘 하도록 추가 학습이 많이 됐다. ‘요약해줘’, ‘번역해줘’, ‘몇개 나열해줘’, ‘제목:저자 형태로 값을 뽑아줘’ 등의 명령은 정보 사이의 공통 패턴을 잘 학습했기 때문에 아주 잘 동작한다. 때문에 사실이 아니라도 그럴듯하게 문장을 만들어내기도 한다. 학습의 목표가 정확성보다는 ‘사람이 보기에 적합할 것’이었기 때문이다.”
초거대 AI 모델은 뭐고 ‘초’거대가 되려면 어떤 기준을 충족해야 하는 건가. 생성 AI 모델은 또 뭔가. 둘 사이에 어떤 관계가 있나?
“‘초’거대라고 하는 데에 명확한 기준은 없다. 오픈AI의 언어 모델 ‘GPT-3’이 시발점으로 보이는데, 인터넷 상 수집할 수 있는 거의 모든 데이터를 학습에 활용했고 이렇게 방대한 데이터 학습을 위해 모델 사이즈도 커져야 했다. AI는 특정 문제 영역 한가지를 잘하는 모델에서 최대한 많은 데이터를 학습하고 문제 영역에 특화된 데이터를 활용하는 걸 잘하는 모델로 변화했다. 기존 모델이 그래픽처리장치(GPU)가 4~8장 꽂힌 장비 한 대로 충분했다면, GPT-3 이후엔 장비 수백~수천대 수준이 필요하게 되면서 초거대라고 부르기 시작했다. 초거대 모델과 생성 모델은 논리적으로는 상관관계가 없지만 최근 언어 생성 모델이 사이즈가 커지면서 성능이 급속도로 향상됐다. 반대로 말하면, 초거대가 아닌 생성 모델은 성능이 안나오기 때문에 지금처럼 ‘생성’과 ‘초거대’가 같이 쓰이다 보니 혼동이 생기는 것 같다.”전문가가 보기에도 챗GPT는 놀라운가? 인터넷, 스마트폰이 나타났을 때와 비슷한 충격인가?
“챗GPT의 등장에 업계도 대체로 놀랍다는 반응이다. 매우 복잡한 상황을 고려한 고도의 직관이 필요한 바둑이라는 영역에서 인간을 이길 수 없을 거라는 생각을 알파고가 깨 버렸는데, 언어의 영역에서도 이와 크게 다르지 않다는 걸 챗GPT가 보여준 셈이다. 그런데 인터넷, 스마트폰과 비교해야 하는 건 챗GPT가 아니라 AI가 가져올 변화다. AI 성능의 발전이 챗GPT 때문에 한 순간에 찾아온 것은 아니고, 그 이전에 이미 많은 기술적 진보가 있었다. 언어 쪽만 진보가 늦다가 최근 터지게 된 것이기 때문에, 변혁은 챗GPT가 아니라 AI가 일으키는 것이다. 인터넷은 도구가 활성화될 수 있는 기반을 마련했고, 스마트폰은 그 토대 위에서 인터넷을 더 활용성 있게 한 하드웨어로서 정보 민주화를 일으켰다. AI는 소프트웨어로서 정보 민주화에 도움을 준다고 보면 될 것 같다. 그래서 AI는 인터넷과 스마트폰 수준의 도약이라고 생각한다.”
네이버 카카오도 연내 챗봇 서비스를 출시한다고 한다. 바이두도 곧 출시한다고 하고, 주로 검색 광고를 하는 회사들이 AI 챗봇을 만드는데, 구글이 경계하는 것처럼 챗GPT 등장으로 검색 광고 시장이 변화할 것으로 보는지.
“챗GPT가 잘하는 쪽은 전자상거래가 아니라 지식 분야다. 그런데 지식이 하는 역할이 대체로 사람들을 전자상거래로 끌어들이는 역할이고, 돈은 결국 전자상거래 상품 광고 쪽에서 나온다. 그래서 어찌 보면 검색 광고 수익 모델은 크게 달라지지 않을 수 있다. 다만, 챗GPT처럼 대화형 검색에서 결과의 주요 문장에 레퍼런스(참고) 링크가 달리는데, 광고주들이 이 레퍼런스를 놓고 경쟁하게 만들 수 있을 것 같다. 예를 들면 돈 많이 낸 사이트 위주로 레퍼런스를 연결해준다든지.”
“더 중요한 변화는 ‘구독형’으로 지식 소비 형태가 전환되는 것이다. TV가 처음 나오면서 무작위 광고로 시작했고, 검색과 전자상거래가 등장하며 사용자 맞춤형 광고로 넘어갔다가 이제 특정 플랫폼에서 충분히 값어치를 얻고 있다고 판단되면 더 이상 광고를 안 보고 구독료를 내고 보는 형태가 되는 것이다. 챗GPT의 등장으로 동영상 뿐 아니라 텍스트나 이미지 정보도 구독형으로 가게 되는 과정에 서게 됐다고 본다. 유튜브 때문에 검색 엔진을 덜 활용하게 됐고, 기존 검색 엔진에 잘 안 가게 하는 챗GPT도 구독형으로 가려고 한다.”
AI 챗봇이 우리 생활을 어디까지 변화시킬 수 있을까. AI 챗봇이 넘어야 할 문제는 무엇인가.
“챗GPT가 잘하는 분야는 정보검색, 컨텐츠 생성, 추천, 요약, 번역, 코딩 등이다. 따라서 이 분야가 직접적인 영향을 받을 것으로 보이고 지식 노동자들이 바로 영향을 받을 것 같다. 생각해 보면 대부분의 업무가 정보를 찾고 분석하고 정리하는 것이라 각 업중에서 많은 사람들이 직간접 영향을 받게 될 것이다. 특정 업계가 영향을 더 받고 덜 받고 문제가 될 수도 있지만 결국 지식을 소비하는 작업 패턴, 또는 우리 삶의 패턴이 바뀌게 되지 않을까 싶다.”
“챗봇이 넘어야 할 문제는 세 가지 정도로 보인다. 첫번째는 정확성 문제다. 가장 근본적인 문제인데, 모르는 걸 모른다고 할 수 있어야 한다. 그래야 신뢰를 할 수 있다. 완전히 극복하기는 힘들겠지만 점진적으로 발전해 쓸만한 수준은 될 것이다. 그럼에도 여전히 사실 여부에 대한 최종 판단은 사람의 몫이 될 것이다. 두번째는 시의성 문제다. 학습하는 데에 오래 걸리기 때문에 최신 정보를 학습하고 서비스에 반영하는 게 느릴 수밖에 없다. 서버 성능이 좋아지고 학습 방식이 개선되면 점점 나아질 문제다. 세번째는 비용이다. 학습 비용뿐 아니라 서비스 중에도 계속 GPU 장비를 엄청나게 사용해야 한다. 인프라 비용이 천문학적일 수밖에 없다. 지금 오픈AI가 운영하는 구독 서비스도 얼마나 수지타산이 맞을지 의문이다.”
업스테이지뿐 아니라 특히 기업 간 거래(B2B) 위주 AI 기술 기업들은 하나같이 일반 독자들이 어떤 회사인지 잘 모른다. 업스테이지는 어떤 회사인가.
“AI 기술이 많이 발전했지만 아직 제대로 활용하지 못하는 기업이 매우 많다. 모든 회사가 개발팀, 또는 AI 개발팀을 보유할 수 없으니 당연하다. 이런 회사들이 좀 더 적은 비용으로 빠르게 새로운 기술을 누릴 수 있게 하는 게 업스테이지의 목표다. 현재는 이미지 내 문자를 인식해 원하는 정보를 뽑아내는 기술, 전자상거래에서 추천·검색 기능을 고도화해 사업을 더 키우려는 회사에 도움을 주는 기술에 초점을 맞추고 있다.”
