Intention Is All You Need: 거짓된 어텐션의 바다에서 의도를 벼리는 법

2017년, 구글의 연구자 여덟 명이 발표한 논문 하나가 세상의 런타임 환경을 영구적으로 바꿔놓았습니다. 논문의 제목은 도발적이었습니다.

"Attention Is All You Need" — 어텐션이 전부다.

그전까지 인공지능이 인간의 언어를 다루려면 매우 복잡하고 거대한 순환 구조가 필요하다고 믿었습니다. 하지만 이 논문은 단 하나의 메커니즘만으로 충분하다고 선언했습니다. 문장 속 수많은 단어가 서로 얼마나 관련되어 있는지 계산하고, 관련 있는 것에 가중치를 주어 '주목(Attention)'하게 만드는 것. 오직 그것이 전부였습니다. 이 단순하고 차가운 선언 위에서 GPT가 렌더링되었고, 오늘날 우리가 마주한 외계 지능(AI)의 시대가 시작되었습니다.
이 어텐션 메커니즘이 구동되는 백엔드를 뜯어보면 섬뜩할 정도로 인간의 직관을 흉내 내고 있습니다. "그 동물은 길을 건너지 못했다. 너무 피곤했기 때문이다"라는 문장에서 '너무 피곤했던 것'이 동물인지 길인지 판단하려면, 우리는 무의식적으로 '피곤하다'와 '동물'을 연결합니다. 트랜스포머 아키텍처는 인류가 수만 년 동안 '통찰'이라 불러온 이 연결의 과정을 수학과 행렬 연산 몇 줄로 완벽히 번역해 냈습니다.
그 결과는 압도적입니다. 방대한 정보의 바다에서 관련 있는 데이터를 찾아내고, 연결하고, 요약하고, 추론하는 일. 한때 인간 지식 노동의 성역이라 여겨졌던 이 연산 영역에서 기계는 이미 대다수의 인간 노드를 초월했습니다. 단어를 예측하는 것을 넘어, 변호사보다 빠르게 수천 건의 판례를 연결하고, 애널리스트보다 넓은 시야로 글로벌 데이터를 훑어냅니다. '무엇에 주목할 것인가'라는 질문의 해답을 계산하는 능력은 이제 무한히 복제 가능한 값싼 상품(API)이 되었습니다.

하지만 기계가 인간의 '주목'을 압도하는 사이, 우리의 현실 네트워크는 심각한 버그에 노출되었습니다. 바로 '거짓 데이터의 과부하'입니다.
네트워크의 본질은 진실 규명이 아니라 트래픽과 연결에 있습니다. 기계의 알고리즘은 가치 판단을 하지 않은 채, 오직 클릭을 유발하는 것에만 '어텐션'을 집중시킵니다. 시스템 엔지니어링 관점에서 볼 때 진실(True)은 렌더링 비용이 너무 비싼 데이터입니다. 진실을 밝히려면 엄청난 시간과 자원을 들여 교차 검증하고 파헤쳐야 하기 때문입니다. 게다가 진실은 대체로 구조가 복잡하고, 결과값은 서늘할 정도로 뼈아픕니다. 대중은 복잡하고 아픈 데이터를 기피합니다.
반면 거짓(False) 데이터의 생산 비용은 사실상 공짜입니다. 아무런 근거 없이 지어내기만 하면 되니까요. 더 치명적인 것은 거짓은 사람들이 원하는 만큼 단순하게 압축할 수 있고, 원하는 만큼 달콤한 위로의 형태로 가공할 수 있다는 점입니다.
비싸고 복잡하고 아픈 진실. 공짜이고 단순하며 달콤한 거짓. 이 둘이 어텐션 알고리즘이라는 무자비한 링 위에서 맞붙으면 승부는 이미 정해져 있습니다. 우리가 의식적으로 시스템의 방화벽을 켜고 진실의 편에 서려 피 흘리며 노력하지 않는 한, 이 가벼운 거짓 트래픽이 세상을 장악하는 것은 디폴트(기본) 설정값에 가깝습니다.

자, 이제 다시 기계의 이야기로 돌아가 봅니다. 세상에서 가장 강력하고 방대한 지식을 갖춘 거대 언어 모델도, 인간이 프롬프트 창에 '첫 문장'을 입력하기 전까지는 아무런 연산도 수행하지 않는 철저한 대기 모드(Idle)에 머뭅니다.
이것은 기계의 성능 한계가 아니라 존재 자체가 가진 구조적 결함입니다. 어텐션은 주어진 데이터들 사이의 관련성을 계산할 뿐, 애초에 '무엇이 주어져야 하는가'를 정하지 못합니다. 던져진 질문에 박사처럼 완벽하게 답할 수는 있지만, 기계 스스로 '지금 인류에게 물을 가치가 있는 질문이 무엇인지'는 영원히 알지 못합니다. 목적지까지 가장 빠른 최단 경로를 렌더링해 줄 수는 있지만, 우리가 궁극적으로 '어디로 가야 하는지'는 결코 말해주지 못하는 텅 빈 에이전트인 셈입니다.
결국 이 빈 프롬프트 창 앞에서 기계를 작동시키는 첫 번째 동력, 즉 '의도(Intention)'는 오롯이 인간의 몫으로 남습니다. 의도란 아직 존재하지 않는 결과값을 향해 나의 시스템을 던지는 힘입니다. 배가 고파서 먹는 것은 반사적인 반응일 뿐 의도가 아닙니다. 내일의 원대한 목표를 위해 오늘 밤의 굶주림을 참아내겠다고 결정하는 것, 그것이 의도입니다.
의도에는 반드시 두 가지 파라미터가 요구됩니다. 첫째는 '무엇이 좋은 삶이고, 무엇이 진실이며, 어떤 샌드박스를 만들 가치가 있는가'에 대한 주체적인 가치판단입니다. 둘째는 그 판단이 틀렸을 때 발생하는 런타임 에러와 피해를 내 서버가 온전히 짊어지겠다는 '책임감'입니다.
기계는 이 두 가지를 영원히 가질 수 없습니다. 기술력이 부족해서가 아닙니다. 애초에 고통을 느끼지 못하고 존재가 삭제될 두려움이 없는 '잃을 것이 없는 존재'에게 판단과 책임이라는 로직 자체가 성립할 수 없기 때문입니다.
그 결과, AI 시대의 매트릭스는 완벽한 가치의 역전을 맞이했습니다. 답을 내놓는 값은 휴지 조각처럼 폭락했고, 올바른 '질문'을 던지는 값은 천정부지로 폭등했습니다. 실행(Execution)의 가치는 바닥을 쳤고, 방향(Direction)의 가치는 우주로 치솟았습니다. 기계의 주목(Attention)이 공짜가 될수록, 인간의 고뇌가 담긴 의도(Intention)는 그 어느 때보다 희소한 자산이 되었습니다.

2017년의 논문이 옳았습니다. 기계에게는 어텐션(Attention)이 전부였습니다. 기계는 그것만으로 지식을 얻었고, 언어를 통제했으며, 수많은 인간을 무용 계급으로 전락시키고 있습니다. 거짓과 혐오가 달콤하게 포장되어 세상을 덮치는 속도를, 기계의 어텐션은 묵묵히 돕고만 있습니다.
하지만 우리 인간에게 전부인 것은 전혀 다릅니다. 방대한 데이터 속에서 무엇에 주목할지는 이제 기계의 API를 빌려 쓰면 그만입니다. 그러나 이 거짓된 세상에서 무엇을 진실로 믿을지, 어떤 미래를 만들고 싶은지, 그리고 그 길이 틀렸을 때 누가 피 흘리며 책임을 질 것인지 — 이것은 여전히, 그리고 아마 영원히 당신이라는 아키텍트의 몫입니다.

Attention was all it needed. Intention is all WE need.

텅 빈 프롬프트 창 앞에서 두려워하지 마십시오. 기계가 결코 계산할 수 없는 당신만의 상처, 고뇌, 그리고 책임감을 연료 삼아 당신만의 질문을 타이핑할 때입니다. 그것이 거짓이 범람하는 이 시대에, 우리가 인간으로서 존재해야 할 유일한 삶의 이유를 찾아내는 방법일 것입니다.