[책리뷰] 듀얼 브레인

1장

이때 주의 메커니즘을 활용하면 AI가 텍스트 덩어리에 있는 단어와 구문의 중요도를 평가함으로써 문제를 어느 정도 해결할 수 있다. 실제로 트랜스포머는 초기의 예측 AI와 달리 텍스트에서 가장 관련성이 높은 부분에 초점을 맞추어 맥락을 고려한 매끄러운 글을 생성해 냈다. 지금은 트랜스포머 아키텍처의 진보에 힘입어 저와 같은 AI들이 맥락을 살린 글을 작성함으로써, 기계의 이해력과 표현력의 놀라운 발전을 보여 주는 시대에 살고 있습니다

2장

AI에는 늘 명확한 규칙이 있는 것이 아니어서, 언제든 악의적인 행동을 하도록 조작될 수 있다. 그런 조작을 가능하게 하는 한 가지 방법이 바로 프롬프트 인젝션prompt injection이다.

3장

LLM은 학습에 사용된 문서의 일반적인 패턴을 따르는 경향이 있기 때문에, 처음에 내놓는 기본적인 답변은 대단히 포괄적이고 일반적인 내용처럼 들릴 것이다. 이러한 패턴을 깨면 훨씬 더 유용하고 흥미로운 답변을 들을 수 있다. 패턴을 깨는 가장 쉬운 방법은 맥락과 제약을 정해 주는 것이다. 즉 ‘자신이 누구인지’ 말해 주는 것인데, 이렇게 하면 시스템에 일정한 관점을 제시할 수 있다. LLM에게 경영대학원 교수의 입장이 되어 달라고 하면, 서커스 광대의 입장에서 대답해 달라고 했을 때와 다른 답변을 제시할 것이다. 이는 마법 같은 일이 아니다. 빌 게이츠Bill Gates처럼 답변해 달라고 요청한다고 해서, LLM이 더 훌륭한 사업 조언을 해 주는 것은 아니다. 그렇지만 원하는 목적에 맞는 어조와 방향을 잡는 데는 도움이 될 수 있다.

4장

AI는 지극히 인간적인 작업에 뛰어나다. 글을 쓰고, 분석하고, 코딩하고, 대화할 수 있다. 마케팅 담당자나 컨설턴트를 대신해서 지루하고 일상적인 업무를 맡김으로써 생산성을 높일 수도 있다. 하지만 AI는 일반적으로 기계가 뛰어난 작업, 예를 들어 일련의 과정을 반복하거나 도움 없이 복잡한 계산을 수행하는 일은 잘 해내지 못한다.

5장

자동화의 역사를 고려하면, AI가 제일 먼저 두각을 나타내는 작업은 지루하고 반복적이며 분석적인 일이라고 예상하는 사람이 많을 것이다. 증기 기관에서 로봇에 이르기까지, 지금까지 중요한 신기술이 도입될 때 가장 먼저 자동화됐던 것은 그런 분야의 일이었다. 그런데 우리가 봤듯이 AI의 경우는 그렇지 않다. LLM은 글쓰기에 뛰어나지만, 그 기반이 되는 트랜스포머 기술은 그림, 음악, 동영상 생성을 포함한 다양한 응용 프로그램의 핵심이기도 하다. 이런 견지에서 연구원들은 AI의 물결에 가장 큰 영향을 받는 분야가 반복적인 일이 아니라 창의적인 일을 하는 직업이라고 주장했다.
이런 말을 들으면 보통 마음이 불편해진다.

LLM은 연결 기계다. 인간에게는 관련 없어 보이는 것들 사이에서 더 깊은 의미를 나타내는 토큰들 사이의 관계를 생성하면서 학습한다. 여기에 결과물에 반영하는 무작위성이 더해지면, 혁신을 낳는 강력한 도구가 탄생한다.

연구에 따르면 혁신적인 사람일수록 AI의 창의적인 도움으로부터 얻는 이점이 줄어든다고 한다. 이는 AI가 아무리 창의적이어도, 사용자가 주의 깊게 계획해서 요청을 전하지 않으면 매번 비슷한 아이디어만 제시하는 경향이 있기 때문이다

마이크로소프트에서 진행한 연구에서 프로그래머에게 AI를 사용하게 한 결과, 샘플 작업의 생산성이 55.8퍼센트나 증가한 것으로 나타났다. AI는 심지어 프로그래머가 아닌 비전공자가 코드를 작성하도록 도울 수도 있다. 내 경우에도 코딩 언어를 전혀 모르지만, AI를 이용해서 십여 개의 프로그램을 만들 수 있었다. AI에게 어떤 작업을 요청하고 그에 대한 코드를 작성하게 하는 것을 ‘의도 기반 프로그래밍’이라고 한다. 이 개념은 연간 임금 총액이 4640억 달러에 이르는 IT 산업에 상당한 영향을 미칠 것이다

6장

사람들이 AI를 본격적으로 사용하기 시작할 때 던지는 질문 중 하나는 “AI가 자신의 일자리에 영향을 미칠 것인가?”이다. 그 대답은 아마도 ‘그렇다’일 것이다.
이 질문은 매우 중요해서, 최소 네 개의 서로 다른 연구팀이 매달렸을 정도다. 이들은 1016개 직업에서 수행하는 업무를 기록한 아주 상세한 데이터베이스를 이용해서, 인간이 할 수 있는 일과 AI가 할 수 있는 일 사이에 겹치는 부분이 얼마나 많은지 정량화하려고 시도했다. 네 가지 연구 모두 거의 모든 직업에서 인간의 능력과 AI의 능력이 겹친다고 결론지었다.

‘나만의 업무’에 이은 두 번째 부류는 ‘위임한 업무Delegated Task’이다. 여기에 해당하는 업무는 AI에게 맡기고 주의 깊게 확인하지만(AI는 그럴듯한 거짓 정보를 지어낸다는 점을 기억하라), 기본적으로 시간을 많이 들이고 싶지 않은 것들이다.

마지막으로 세 번째 부류는 ‘자동화된 업무Automated Task’, 즉 AI에게 완전히 맡기고 확인조차 하지 않는 작업이다. AI가 전부 처리하도록 놔두는 이메일 처리 과정이 있을 것이다. 지금으로서는 이런 종류의 업무가 매우 작은 범주에 한정되어 있다…. 지금으로서는 말이다. 아직 AI를 자동화된 방식으로 사용하기에는 실수가 너무 많다.

예전에는 관리자가 직원의 업무 수행 과정에 관한 정보를 제한적으로만 얻을 수 있었다. 하지만 알고리즘의 발달로 다양한 출처의 방대한 데이터를 즉각적으로 얻게 되면서 직원들을 추적 관찰할 수 있게 되었다. 또한 알고리즘에는 쌍방향 상호작용 기능도 있어서, 회사가 원하는 곳에 직원을 실시간으로 배치할 수도 있다. 이런 알고리즘의 작동 방식은 투명하게 공개되지 않는다

수많은 연구에 따르면 AI로부터 가장 큰 도움을 받는 사람은 초기 역량이 가장 낮은 사람이다. 즉, AI는 저성과자를 고성과자로 만든다. 글쓰기에서는 서툰 작가가 괜찮은 작가가 된다. 창의성 테스트에서는 점수가 낮은 사람이 높은 점수를 받게 된다. 로스쿨에서는 법률 문서 작성 실력이 가장 형편없는 학생이 훌륭한 문서를 작성하게 한다.

이러한 연구 결과는 AI가 능력의 불평등을 없애서 모든 사람이 우수한 직원으로 거듭나는 급진적인 업무 재구성의 가능성을 보여 준다. 이에 따라 육체노동의 자동화만큼 큰 영향이 나타날 수 있다. 굴착기가 나왔을 때, 땅을 잘 파는 기술은 의미가 없어졌다. 아무리 땅 파는 기술이 뛰어나도 굴착기보다 잘할 수는 없기 때문이다. AI의 도입은 교육과 기술의 가치를 떨어뜨려 일자리의 성격을 많이 바꿀 것이다. 저임금 노동자들이 같은 일을 더 짧은 시간에 더 많이 하게 되면서, 대규모 실업이나 불완전 고용이 발생할 가능성이 커질 것이다. 이에 따라 주 4일 근무제나 보편적 기본 소득 같은 복지 제도를 도입하는 정책적 해법의 필요성도 대두될 것이다

7장

이 논문에서 블룸은 일대일 수업을 받은 학생들의 평균 성적이 일반 교실에서 수업을 받은 학생들보다 표준 편차의 두 배만큼 높았다고 보고했다. 이 말은 일대일 수업을 받은 학생들의 평균 성적이 상위 2퍼센트에 해당한다는 뜻이다

또한 AI 덕분에 교육 내용이 줄어드는 것이 아니라, 오히려 늘어나게 될 것이다. 그리고 AI는 현재의 교육 방식을 개선하기 전에, 먼저 파괴할 것이다.

합의점에 도달하기까지 시간이 걸릴 수는 있지만, 우리는 적절한 합의점을 찾게 될 것이다. 아니, 반드시 그렇게 해야 한다. 지금 와서 지니를 다시 램프 속에 넣을 수는 없으니 말이다.

예를 들어 다양한 프롬프트를 사용해 여러 AI 모델을 테스트한 어느 연구에서, 구글의 최신 AI 모델은 프롬프트 첫머리에 ‘숨을 깊게 쉬고, 이 문제를 단계별로 해결해 줘!”라고 시작할 때 가장 좋은 답을 내놓았다. AI는 인간이 아니므로 숨을 쉴 수 없고 당황할 수도 없는데, 이런 문구가 AI를 원하는 대로 작동하게 하는 가장 효과적인 방법일 거라고는 아무도 예상하지 못했을 것이다.