중고등학생한테 받은 질문 5

'어째서 인류는 AI개발을 멈추지 않는 것일까요. 저는 그만두는 게 좋다고 생각하는데, 선생님은 어떻게 생각하고 계십니까.'

 

 

정말 왜 그럴까요. 저도 잘 모르겠습니다.

 

어떤 기술을 개발하는 게 장래적으로 가져다 줄 이익과, 예측되는 리스크를 비교해서, 리스크 쪽이 큰 경우에는, 기술 개발에 대해 억제적이어야 한다는 사고방식이 있습니다. '기술 억제주의(techno-prudentialism)'라고 합니다. prudential이라는 말은, '신중한, 최신의, 분별 있는, 만전을 기한'다는 의미의 형용사입니다. 핵무기의 개발 등이 여기에 해당됩니다. 아무리 생각해도 핵무기의 '사용 편의성'이 좋아져서 인류가 향수할 수 있는 이익과, 인류가 감수해야 할 리스크는, 리스크가 높은 게 확실합니다. 그럼에도 인류는 핵무기를 포기하지 않고, 핵미사일의 정밀도나 속도를 높이는 데 버젓이 많은 자원을 투입하고 있습니다.

 

 

AI도 핵무기와 똑같다고 생각합니다. AI가 가져다줄 편리성과, AI가 가져다 줄 부정적인 영향을 비교하면, 부정적인 영향이 명백히 크다고 합니다. 그럼 개발을 멈추면 되는데, 어디도 멈출 모양이 아닙니다. 몇몇 기업이 엄청난 금액의 투입을 행하여, AI 시장의 독점을 노리고 있습니다. OpenAI(ChatGPT), Anthropic(Claude), Google(Gemini), xAI(Grok) 등등. 언젠가 어느 기업이 시장 독점을 달성하여, 전 인류가 똑같은 AI를 이용한다... 하는 그다지 상상하기 싫은 상황이 도래할 것 같습니다.

 

지금 대학의 선생님들과 이야기를 해보면 반드시 AI이야기가 나옵니다. 리포트의 많은 부분을 학생들이 AI에게 전부 맡기고, 그것을 제출합니다. 그런 경우, 자기가 쓴 리포트인데, 본인에게 읽게 해보면 '읽지 못하는 한자'가 있습니다. 내용을 요약하라고 하면, 자기가 썼을 레포트의 내용을 이해하지 못합니다. 그런 일이 자주 있다고 합니다. 곤란하네요.

 

그러므로, 과제를 내고 리포트를 쓴다는 것 자체가, 지금은 교육 활동으로서 의미가 퇴색하고 있습니다. 졸업논문을 AI가 쓰게 하는 사람은 이제 많이 있겠지요. 그러는 동안에 박사논문을 AI로 쓰게 하고 학위를 따는 사람도 나올지 모릅니다.

 

AI의 개발은 멈출 수 없습니다. 세계 동시에 멈출 수밖에 없는데, 어딘가 하나의 기업이 혼자서 몰래 개발을 이어간다면, 거기가 언젠가 시장을 독점하게 됩니다. 따라서, 비밀리에 개발을 계속하는 경우가 반드시 생깁니다. 사기업이 하는 거을 전부 막을 수는 없습니다.

우리가 할 수 있는 건, AI가 가져다 줄 파괴적 영향을 어떻게 최소한으로 그치게 할 것인가, 하는 점입니다.

 

하지만, 어떻게 해야 좋을까요. 대학의 경우는 우선 '리포트를 부과하지 않고, 학생을 교실에 모아서, 교사의 눈 앞에서, 수기로 답안을 작성케 하는' 정도밖에는 대책이 떠오르지 않습니다.

 

그런 건 그다지 진지한 얘기가 아니고, 더욱 심각한 건, AI 도입에 따른 '고용 소실'입니다.

 

자동운전 개발에 Amazon의 제프 베조스가 거액의 투자를 했는데, 그것이 실용화된다면, 트럭, 버스, 택시 운전사는 실직합니다. 미국에서는 300만명이 실업한다는 예측이 나타나고 있습니다.

 

의사나 변화 같은 전문직 분야에서도 '대량의 데이터를 읽어들여, 정보를 검색하는' 일은 AI에게 전부 맡겨버리면, 상당히 많은 일이 사라집니다. 요전번에 만났던 의사 선생님은 CT나 MRI 영상을 보고 진단을 내리는 일이 전문인데, 이 작업도 앞으로 수 년 이내에 AI로 대체될 것이므로, 자신이 경험을 통해 터득했던 전문적인 지식이나 기술이 무가치해진다...고 한탄했습니다.

그 밖의 어느 직종이, 어떤 규모로, 언제 '고용 소실'에 조우하게 될 것인가... 이것은 현재 아무도 정확하게 예측할 수 없습니다. '화이트 칼라'로 불리는 데스크 잡의 상당 부분은 AI로 대체 가능하므로, 채용이 주는 것은 확실합니다. 여러분이 대학을 졸업할 무렵의 구직 활동은 이제 큰일났다는 뜻입니다.

 

지금 서구에서는 배관공이라든가 타일공이라든가 비계공 등, '블루 칼라'의 연봉이 급등하고 있다고 합니다. 그것은 이들 작업은 AI나 로봇으로 대체 불가능하기 때문입니다. 물론 '비계공 로봇'같은 것도 만들려면 만들 수 있겠는데, 그 비용과 인간을 고용하는 임긍을 비교한다면, 인간을 고용하는 게 압도적으로 쌉니다. 그럼 개발할 필요가 없습니다. 그런 것이라고 생각합니다.

 

약간 안타까운 얘기가 되었네요. 그래도, AI가 대체하지 못하는 직업은 찾아보면 많이 있습니다. 저는 아이키도라는 무도를 가르치고 있는데, 이것은 AI가 대체하지 못할 것이라고 생각합니다. AI에는 신체가 없으니까요. 신체가 경험하는 미세한 변화를 감지하여, 언어화하여, 훈련법으로 체계화하는... 그런 창조적인 작업은 기계가 불가능합니다.

 

그러니까 '이런 문장'을 쓰는 것도, 아마 AI에게는 불가능할 것입니다.

 

'이런 문장'이란 어떤 문장인가 하면, '무엇을 쓸 작정이었는지 자기도 잘 모르는 채 글을 쓰기 시작했는데, 쓰는 동안에 점점 무언가를 쓰고 싶어졌는지 알게 되는' 종류의 문장입니다. 감으로 쓴 문장입니다. 쓰는 행위를 통해 쓰는 자신이 변화하는 문장이라고 말해도 좋습니다. 쓴다는 것은 그런 일입니다. 자신이 썼던 문장을 읽고서, 썼던 자신이 '아아, 나는 예전에는 미처 몰랐던 이런 걸 생각하고 있었구나' 하고 납득하는 일이 일어납니다. 자기가 쓴 문장에 이끌려서, '쓸 당시에는 몰랐던 쓰기의 목적, 즉 이런 것을 쓸 작정이었던 것'을 쓰고 마는 일이 일어납니다.

 

쓴다는 것은, 그러한 생성적인 프로세스입니다. 그러나 AI는 데이터를 일망부감하여 한꺼번에 서론부터 결론까지 쓸 수 있으므로, 쓸 적에 불완정성이 써나가는 도중에 수정되고, '무지'가 써나가는 도중에 충진되는 문장은 아마 쓸 수 없을 것입니다.

 

그래도 혹시 모르는데 '바보인 척하는 AI'가 나올지도 모릅니다. 앞으로 어떻게 될지는 모릅니다.

 

그런고로, 잠시동안은 AI가 가져다 줄 악영향을 어찌 저지할 것인가에 대해 한 명 한 명이 궁리하는 수밖에 없을 것 같습니다. 도움되 되지 못해 미안합니다.

 

(2026-04-22 10:52)

 

 

글쓴이: 우치다 타츠루 (원문)