AI 연재 1부 | AI의 서막 — 인간은 왜 자신을 닮은 기계를 꿈꾸었나

생각하는 기계의 오래된 상상에서, 대화형 AI가 일상으로 들어오기 직전까지

사람은 오래전부터 자신을 대신해 일할 존재를 꿈꾸었다. 힘든 일을 맡아 주고, 어려운 계산을 풀어 주고, 위험한 곳에 대신 들어가 주는 존재. 때로는 외로움을 달래 줄 상대였고, 때로는 명령에 복종하는 하인이었다. 그 존재가 사람보다 영리해지기를 바라면서도, 정작 자신에게 복종하지 않을 가능성에는 두려움을 느꼈다.

인공지능의 역사는 이 모순을 품고 있다. 인간은 자신의 한계를 넘어설 도구를 만들고 싶어 했다. 동시에 그 도구를 통해 다른 사람보다 더 많은 부와 권력을 얻고 싶어 했다. 질병을 고치고 노동을 줄이려는 희망과, 사람을 감시하고 전쟁에서 이기려는 욕망이 같은 기술을 향해 달려왔다.

이 글은 그 긴 여정의 첫 부분이다. 여기서 ‘본격 AI 시대 직전’은 AI 연구가 시작되기 전을 뜻하지 않는다. 검색과 번역, 추천 서비스 속에서 이미 작동하던 AI가, 누구나 말을 걸어 글과 답변을 받아 보는 대화형 생성 AI로 대중화되기 직전까지를 뜻한다. 이야기는 2022년의 문턱에서 멈춘다. 그 문턱까지 무엇이 쌓였는지를 먼저 돌아본다.

1. 컴퓨터보다 먼저 태어난 꿈

그리스 신화에는 청동으로 된 거인 탈로스가 등장한다. 사람의 손으로 만들어진 존재가 움직이고 임무를 수행한다는 상상이다. 이런 이야기를 오늘의 AI와 같은 것으로 볼 수는 없다. 신화의 존재에는 알고리즘도 학습 데이터도 없다. 다만 인간이 생명과 지능을 직접 만들어 보고 싶어 했다는 오래된 상상은 읽을 수 있다.[13]

1818년 출간된 메리 셸리의 『프랑켄슈타인』은 그 상상을 근대의 과학과 연결했다. 작품 속 피조물은 로봇도 컴퓨터도 아니다. 그러나 창조자가 자신이 만든 존재에 어떤 책임을 져야 하는지, 능력을 얻었다는 이유만으로 무엇이든 만들어도 되는지를 묻는다. 피조물의 고통과 창조자의 회피를 함께 읽으면, 기술의 위험을 단순히 ‘괴물이 나빠서’라고 설명하기 어렵다.

1920년 발표된 카렐 차페크의 희곡 『R.U.R.』에서는 로봇이라는 말이 등장한다. 작품 속 로봇은 오늘날 떠올리는 금속 기계와도 다르지만, 인간을 대신해 생산에 투입되는 존재라는 점은 익숙하다. 노동을 맡기려던 인간의 계획이 인간의 자리를 위협하는 이야기로 바뀐다.[1]

이 작품들을 실제 AI 발명의 설계도로 볼 필요는 없다. 오히려 기술을 둘러싼 인간의 기대를 먼저 드러낸 문화적 기록으로 읽을 수 있다. 우리는 편리한 하인을 원하는가, 동등한 동료를 원하는가. 만들어 낸 존재에게 능력은 주되 자유는 주지 않을 수 있는가. 사람의 일을 대신하는 기술이 사람의 삶까지 나아지게 하는가. 기계가 답하기 훨씬 전에 인간이 먼저 던진 질문들이다.[14]

2. 계산을 기계에 맡긴 뒤, 생각까지 맡길 수 있을까

계산기는 숫자를 다루는 일을 대신했다. 컴퓨터는 여기에 중요한 변화를 더했다. 정해진 기계 장치로 한 가지 계산만 반복하는 대신, 프로그램에 따라 여러 종류의 절차를 수행할 수 있게 된 것이다. 인간이 사고의 일부를 규칙과 절차로 표현할 수 있다면, 기계도 그것을 실행할 수 있지 않을까 하는 질문이 구체적인 연구 문제가 되었다.

앨런 튜링은 1950년 논문 「Computing Machinery and Intelligence」에서 기계의 사고 문제를 다루었다. 그는 ‘생각한다’는 말의 정의를 끝없이 논쟁하기보다, 대화를 통해 인간과 기계를 구별할 수 있는지를 살펴보는 모방 게임을 제시했다. 훗날 튜링 테스트로 알려진 접근이다.[2]

이것이 기계에 의식이나 감정이 있다는 증명은 아니다. 사람처럼 답하는 능력과 사람처럼 경험하는 능력은 다른 문제다. 그 구분은 이후 AI를 바라볼 때도 계속 중요해진다. 대답이 자연스럽다는 이유만으로 이해가 완전하다고 믿으면, 사용자는 기계가 할 수 있는 일과 할 수 없는 일을 잘못 판단하게 된다.

튜링의 질문이 가진 힘은 막연한 상상을 검토 가능한 문제로 바꾸었다는 데 있었다. 생각을 흉내 내는 행동은 어디까지 가능한가. 학습은 기계 안에서 어떻게 표현할 수 있는가. 연구자들이 실험할 수 있는 길이 열렸다.

3. 1956년, 꿈에 이름이 붙다

1955년 존 매카시와 마빈 민스키, 너새니얼 로체스터, 클로드 섀넌은 이듬해 여름 다트머스에서 진행할 연구를 제안했다. 제안서에는 학습과 지능의 여러 특징을 충분히 정확하게 기술할 수 있다면 기계로 구현할 수 있을 것이라는 가정이 담겼다. ‘Artificial Intelligence’, 인공지능이라는 이름도 이 제안에 사용되었다. 1956년의 여름 연구 모임은 AI가 하나의 연구 분야로 출발한 상징적 사건으로 꼽힌다.[3]

그 출발에는 큰 자신감이 있었다. 사람은 추론하고, 언어를 쓰고, 문제를 푼다. 그 과정을 작은 규칙으로 나누어 컴퓨터에 넣으면 지능에 다가갈 수 있을 것처럼 보였다. 실제로 기계가 논리 문제를 풀거나 게임의 수를 계산하는 모습은 놀라웠다.

그러나 연구실에서 정의한 문제와 사람들이 살아가는 세계 사이에는 큰 간격이 있었다. 체스판에서는 말의 종류와 이동 규칙이 정해져 있다. 일상에서는 말 한마디의 뜻이 관계와 상황에 따라 달라진다. ‘저것 좀 치워 줘’라는 요청조차 무엇을 가리키는지, 버리라는 것인지 옮기라는 것인지, 깨지기 쉬운 물건인지 판단해야 한다.

사람에게 쉬운 일이 기계에도 쉬운 것은 아니었다. 지능을 몇 가지 논리 규칙으로 옮기는 일은 출발점이 될 수 있었지만, 인간의 모든 상식을 옮기는 일은 훨씬 어려웠다.

4. 규칙을 가르치는 시대와 반복된 겨울

초기의 중요한 흐름 가운데 하나는 지식을 기호와 규칙으로 표현하는 방식이었다. ‘이 조건이면 이런 결론’이라는 규칙을 쌓고, 컴퓨터가 그 규칙을 적용하도록 했다. 특정 분야의 전문가 지식을 담은 전문가 시스템은 그 접근의 대표적인 성과였다. 1960년대의 DENDRAL은 화합물의 구조를 추론하는 작업에 전문가의 지식을 활용했다.[4]

전문가의 경험을 다른 장소에서도 사용할 수 있다는 기대는 매력적이었다. 숙련자가 부족한 곳에서 판단을 돕고, 같은 일을 더 일관되게 처리할 수 있기 때문이다. 기업에는 비용과 시간을 줄일 가능성으로 보였다.

하지만 예외가 늘어날수록 규칙도 늘었다. 규칙끼리 충돌하면 다시 손봐야 했다. 환경이 바뀌면 지식을 갱신해야 했고, 전문가가 실제로 판단할 때 사용하는 감각과 암묵적인 경험을 말로 풀어내기도 어려웠다. 특정 문제에서의 성공을 곧바로 모든 문제에 적용할 수는 없었다.

성과보다 약속이 빨리 커지면 실망도 커졌다. 연구비와 상업적 관심이 줄어든 시기들이 뒤따랐고, 이런 침체는 ‘AI 겨울’로 불렸다. 분야 전체가 같은 날 얼어붙었다가 같은 날 녹은 것은 아니다. 연구 방향과 국가, 투자 환경에 따라 양상은 달랐다. 연구가 완전히 사라진 것도 아니었다.[5]

이 반복에는 기술의 한계와 사회의 조급함이 함께 있었다. 충분한 성과를 얻기 전에 사람처럼 생각하는 기계가 곧 나온다고 기대했고, 기대에 못 미치자 연구의 가능성까지 낮게 평가했다. 오늘의 AI를 이해할 때도 이 역사는 유용하다. 작은 성공을 무한한 능력으로 확대하는 태도와, 한 번의 실패로 모든 성과를 부정하는 태도 모두 실제 기술을 보기 어렵게 만든다.

5. 전쟁은 AI의 바깥에 있지 않았다

생각하는 기계의 역사를 편리한 생활 도구의 발전으로만 설명하면 중요한 부분이 빠진다. 계산과 제어 기술은 전쟁의 요구와도 함께 성장했다. 노버트 위너가 1948년 『사이버네틱스』에서 발전시킨 제어와 피드백의 관점에는, 전쟁 중 적 항공기의 움직임을 예측하는 대공 시스템 연구의 경험이 연결되어 있었다.[4]

이 대목에서 모든 군사 계산이나 자동 제어를 AI라고 부르면 역사가 흐려진다. 다만 관측한 정보를 바탕으로 다음 움직임을 예측하고 행동을 조정한다는 문제는, 이후 지능형 시스템이 풀어야 할 문제와 맞닿아 있었다.

같은 능력은 여러 목적에 쓰일 수 있다. 물체를 알아보는 기술은 작업장의 위험을 발견하는 데도, 공격할 대상을 찾는 데도 쓰일 수 있다. 길을 찾는 기술은 사람을 구조하러 가는 로봇에도, 전장에 투입되는 장비에도 쓰일 수 있다. 따라서 AI의 역사는 발명가의 선의만으로 설명되지 않는다. 누가 돈을 대고, 무엇을 목표로 삼고, 사용 권한을 가지는지가 기술의 방향을 바꾼다.

6. 명령 하나로 수많은 생명을 위협하는 기계

‘AI가 명령 하나로 무수한 사람을 죽이는 무기가 된다’는 말에서 핵심은 단순히 위력이 큰 무기를 발사한다는 데 있지 않다. 대규모 살상 능력 자체는 AI 이전에도 존재했다. AI가 더하는 위험은 사람이 정한 목표를 시스템이 해석하고, 표적을 고르고, 공격 과정을 더 빠르고 넓게 자동화할 가능성이다.

원격 조종 드론과 자율 무기는 구분해야 한다. 사람이 화면을 보며 표적과 공격을 결정하는 장비가 곧 자율 무기는 아니다. 국제적십자위원회는 자율 무기 시스템의 핵심을, 작동을 시작한 뒤 사람이 개별 공격에 개입하지 않아도 표적을 선택하고 무력을 사용하는 기능에서 설명한다. 자율 무기가 반드시 머신러닝 AI를 사용하는 것도 아니다.[6]

위험을 이해하기 위한 가상 상황을 생각해 보자. 사람이 시스템에 특정 구역에서 특정 유형의 대상을 공격하라는 목표를 준다. 여러 장비가 사람을 잘못 분류하거나 상황을 잘못 해석하면서도 같은 목표에 따라 움직인다면, 한 번의 판단 오류가 반복될 수 있다. 이 예시는 특정 사건에서 그런 일이 실제로 벌어졌다는 주장이 아니라, 자동화된 살상에서 무엇을 우려하는지를 보여 주는 설명이다.

명령을 내린 사람과 공격당한 사람 사이에 여러 단계의 소프트웨어와 조직이 들어서면 책임도 흐려질 수 있다. 개발자는 사용자의 결정이라고 하고, 사용자는 시스템의 판단이라고 할 수 있다. 그러나 기계는 피해자에게 책임을 지거나 처벌을 받는 주체가 아니다. 사람이 만든 절차 안에서 책임이 사라지도록 방치할 수는 없다.

국제적십자위원회가 인간의 통제와 판단을 강조하는 이유도 여기에 있다. 2021년 입장에서는 예측하기 어려운 자율 무기와 사람을 표적으로 하는 자율 무기를 금지하고, 다른 자율 무기에도 제한을 두도록 제안했다.[6] 이는 AI가 악의를 품느냐는 질문과 별개다. 의식도 증오도 없는 기계가 인간의 목표와 오류를 실행하는 것만으로 심각한 피해가 발생할 수 있다.

7. 기계가 몸을 가지면 — 피지컬 AI의 오래된 뿌리

AI는 화면 속에서만 발전한 것이 아니다. SRI에서 1966년부터 1972년까지 연구한 로봇 셰이키는 주변을 관측하고, 이동 경로를 계획하고, 간단한 물체를 다루는 작업을 수행했다. 사람이 움직임 하나하나를 지시하는 대신, 목표를 달성하기 위한 행동을 기계가 계획하도록 한 초기 시도였다.[7]

여기서 오늘날 ‘피지컬 AI’라고 부르는 흐름의 뿌리를 볼 수 있다. 이 용어는 이 글의 시대를 설명하는 당시의 통일된 명칭이 아니라, 현재의 개념을 빌려 과거와 연결하는 표현이다. 엔비디아 등의 용례에서 피지컬 AI는 실제 물리 세계를 인식하고 판단하며 행동하는 로봇과 자율 시스템을 가리킨다.[8]

꼭 사람처럼 생긴 로봇일 필요는 없다. 물체를 집는 로봇 팔, 주변을 보며 움직이는 이동 로봇, 도로 상황에 대응하는 자율주행 시스템도 이 흐름과 연결된다. 다만 모터가 달렸다고 모두 AI인 것은 아니다. 정해진 동작을 반복하는 자동화와, 관측한 상황에 따라 판단하고 행동을 바꾸는 능력은 구별할 필요가 있다.

몸을 가진 기계에는 현실의 마찰과 무게, 충돌이 따른다. 컵을 집는 데는 컵의 위치를 알아보는 능력뿐 아니라 깨뜨리지 않을 힘으로 잡고, 미끄러짐에 대응하는 능력도 필요하다. 틀린 문장을 다시 쓰는 일과 물건을 떨어뜨린 뒤 되돌리는 일은 다르다. 사람이 있는 공간에서는 행동의 오류가 곧 부상으로 이어질 수도 있다.

반대로 이런 능력이 발전하면 사람을 위험에서 빼낼 수 있다. 재난 현장과 위험 시설의 점검, 무거운 물건의 운반처럼 몸에 부담이 큰 일을 기계가 맡을 가능성이 커진다. 사람의 몸을 보호하는 도구가 될지, 사람의 몸을 공격하는 도구가 될지는 성능만으로 결정되지 않는다.

8. 모든 규칙을 쓰는 대신, 사례에서 배우게 하다

AI 연구에는 사람이 규칙을 넣어 주는 방식과 함께, 데이터에서 패턴을 학습하게 하려는 흐름도 오래 존재했다. 후자는 예시를 보고 내부의 수치를 조정하면서 새로운 입력에 대한 판단을 개선한다. 고양이를 알아보는 데 필요한 모든 규칙을 사람이 글로 적는 대신, 많은 이미지에서 특징을 학습하게 하는 식이다.

이런 접근이 힘을 얻는 데에는 알고리즘뿐 아니라 데이터와 컴퓨팅 환경의 변화가 중요했다. 인터넷과 디지털 기기가 쌓은 자료, 저장 장치, 빠른 연산 능력이 연구의 재료와 도구가 되었다. 딥러닝은 여러 층의 신경망을 사용하는 학습 방식이다. 여기서 ‘신경망’은 인간 뇌를 그대로 복제했다는 뜻이 아니다.

2012년 알렉스 크리제프스키, 일리야 수츠케버, 제프리 힌턴의 연구는 대규모 이미지 분류에서 깊은 합성곱 신경망과 GPU 연산을 활용해 뛰어난 성과를 보였다. 훗날 알렉스넷으로 알려진 이 연구는 이미지 인식에서 딥러닝의 가능성을 크게 드러낸 전환점이었다.[9]

사례에서 배우는 능력에는 새로운 한계도 따라온다. 학습 자료가 실제 사용할 환경을 충분히 담지 못하면, 익숙한 조건에서는 잘하던 시스템이 낯선 조건에서 실패할 수 있다. 데이터에 특정 집단이나 상황이 부족하면 그 부족함이 판단에 반영될 수 있다. 따라서 학습량이 많다는 사실만으로 신뢰성을 보장할 수는 없다. 무엇을 배웠는지와 어디에서 사용할지를 함께 살펴야 한다.

9. 인간 챔피언이 패배했을 때

1997년 IBM의 딥 블루는 당시 세계 체스 챔피언 가리 카스파로프를 경기 전체에서 이겼다. 빠른 계산과 체스에 맞춘 평가 방식이 결합한 성과였다.[10] 지적 능력의 상징처럼 여겨지던 경기에서 인간이 졌다는 사실은 큰 충격을 주었다.

2016년에는 알파고가 이세돌과의 바둑 대결에서 4대 1로 승리했다. 알파고는 신경망 학습과 탐색을 결합했다.[11] 한국의 많은 사람에게 AI는 이 대결을 통해 연구실의 용어에서 눈앞의 현실로 바뀌었다. 사람이 오랫동안 연마한 판단을 기계가 넘어설 수 있다는 장면이 생중계되었다.

그러나 체스나 바둑에서의 승리는 인간의 모든 능력을 앞섰다는 뜻이 아니었다. 정해진 규칙과 목표가 있는 영역에서의 탁월함과, 현실의 복잡한 목적을 이해하고 책임 있게 행동하는 능력은 다르다. 바둑의 승패를 판단하는 것과 돌봄이 필요한 사람에게 무엇이 좋은지 판단하는 것은 같은 문제가 아니다.

이 대결들이 바꾼 것은 성능에 대한 예상뿐 아니라 인간의 자부심이었다. 우리는 어떤 일을 인간만의 능력이라 여기는가. 기계가 더 잘하면 그 일의 가치가 사라지는가. 경쟁의 결과와 인간의 가치를 같은 것으로 취급할 이유는 없다. 하지만 일과 소득이 걸린 사람에게 이 질문은 철학적인 위로만으로 끝나지 않는다.

10. 희망은 누구의 것이고, 이익은 누구에게 돌아가는가

지능을 보조하는 도구는 지식의 문턱을 낮출 수 있다. 다른 언어로 된 정보를 이해하고, 복잡한 자료에서 필요한 내용을 찾고, 전문가의 작업 일부를 보조할 수 있다. 몸을 가진 기계는 위험하고 반복적인 일을 줄일 수 있다. 이런 가능성은 인간이 AI를 향해 오래 달려온 이유를 설명한다.

그러나 생산성이 높아졌다고 모두의 생활이 자동으로 나아지는 것은 아니다. 같은 기술이 어떤 사람에게는 일을 쉽게 하는 도구이고, 다른 사람에게는 자신의 일이 줄어드는 이유가 될 수 있다. 작업 시간을 줄인 이익이 임금과 휴식으로 돌아가는지, 소수의 소유자에게만 집중되는지는 기술 외의 결정에 달려 있다.

편리함과 통제도 함께 움직인다. 사람을 잘 이해하는 시스템은 필요한 서비스를 더 빨리 제공할 수 있다. 동시에 사람이 무엇을 보고 무엇을 선택할지 유도하는 데 사용될 수도 있다. 무엇이 가능하냐는 질문 옆에, 누가 목적을 정하느냐는 질문을 놓아야 하는 이유다.

이 대목은 개별 발명에 대한 사실 기록을 넘어선 역사적 해석이다. AI를 향한 욕망은 사람의 한계를 덜어 주려는 욕망이면서, 다른 사람보다 더 유리한 위치를 얻으려는 욕망이기도 했다. 그 두 방향이 충돌하고 타협하는 과정이 기술의 실제 쓰임을 만들어 왔다.

11. 2022년의 문턱 — 사람들이 기계에 말을 걸기 직전

2017년 발표된 「Attention Is All You Need」는 트랜스포머라는 신경망 구조를 제시했다. 문장 속 요소들의 관계를 다루는 어텐션을 중심으로 설계한 이 구조는, 이후 대규모 언어 모델 발전의 중요한 기반이 되었다.[12]

이 변화도 혼자 일어난 것은 아니다. 오랜 연구, 큰 데이터, 연산 장치, 학습 방법, 투자가 함께 쌓였다. 2022년 대화형 생성 AI가 널리 주목받기 전에도, 사람들은 이미 검색과 번역, 추천 서비스 등을 통해 AI의 영향을 받고 있었다. 다만 많은 경우 그 기술은 서비스 안쪽에 있었고, 이용자는 결과를 소비했다.

이제 문턱 너머에서는 관계가 바뀐다. 이용자가 자신의 말로 일을 요청하고, 기계가 답변과 초안을 돌려주는 방식이 앞에 나온다. 오래전 신화와 소설에서 상상했던 ‘말을 알아듣는 존재’가 일상의 인터페이스로 다가온다. 그렇다고 신화의 생명이나 인간의 정신이 컴퓨터 안에서 탄생했다는 뜻은 아니다. 오래된 기대가 새로운 기술의 표면에 다시 비치는 것이다.

1부의 역사는 여기에서 멈춘다. 인류는 생각하는 기계를 만들려는 긴 시도 끝에, 수많은 사람이 그 기계에 직접 일을 맡기려는 순간에 도착했다. 그 뒤의 이야기는 성능의 성장만으로 설명되지 않을 것이다. 믿을 수 있는 답을 얻는 일, 노동과 소득의 변화를 겪는 일, 사람의 판단을 어디까지 위임할지 정하는 일이 함께 시작되기 때문이다.

다음 2부에서는 대화형 생성 AI가 일상으로 들어온 뒤, 우리가 왜 그럴듯한 답을 믿게 되는지, 실제로 무엇을 잘하고 어디서 실패하는지를 살펴본다.