도서 소개

언어는 지금까지 인간만이 유일무이하게 소유한 것이라고 여겨왔다. 그런데 AI 기술이 진화하면서 기계가 사람처럼 말을 하고 글을 쓰는 시대가 되었다. 그렇다면 우리는 이 상황을 어떻게 바라봐야 할까? 저자들은 경이롭고 혼란스럽기까지 한, 지금 우리 시대가 마주한 이 현상을 분석하고 대안을 제시하기 위해 아리스토텔레스, 플라톤, 소크라테스 등 고대 사상가들부터 데카르트, 하이데거, 데리다, 바르트, 비트겐슈타인, 푸코, 플루서 같은 근현대 사상가들에 이르는 언어철학과 문학연구, 커뮤니케이션 이론 등을 소환하여 언어, 지능, 소통, 저자성, 글쓰기 등의 본질을 근본적으로 재고하는 철학적 질문과 통찰력을 보여준다.나아가 이 기술이 우리에게 위기만이 가져온 게 아니라 기회까지 제공한다는 시각에서, 저자들은 LLM 인공지능을 활용하여 기존의 커뮤니케이션 이론과 글쓰기에 대한 새로운 대안을 제시하기도 한다. 아울러 이 책이 소통 방식 AI의 언어 사용과 언어 콘텐츠에 초점을 맞추고 논의한다는 점에서, 이 기술을 처음 접하는 이들까지 쉽게 이해할 수 있도록 거대언어모델(LLM) 인공지능이 어떠한 원리로 글을 생성하고 말을 하는지부터 설명한다. 또 그로 인해 발생하는 편향과 환각, 허위 정보 등 복잡한 윤리적, 법적, 사회적, 정치적 쟁점들까지 짚어보며 이 기술에 대한 비판적 태도와 접근, 교육의 필요성을 강조한다.무엇보다도 LLM이 내놓은 거짓 정보를 근거로 어떤 행동을 취하게 되면, 현실에서 아주 심각한 문제를 초래할 수 있다. 이를테면, LLM은 인간이 섭취하기에 부적합한 재료가 포함된 레시피를 생성하고, 독성이 있을 수 있는 약물이나 약물 복용을 추천할 수 있다. 심지어 자살을 시도하도록 사용자를 부추길 수도 있다. 극단적인 말로 들릴 수 있지만, 2023년 3월 벨기에 국적의 한 남성이 그와 영원히 함께할 것이며 “우리는 천국에서 하나가 될 것”이 라는 챗봇의 말을 들은 다음에 실제로 스스로 목숨을 끊은 사례가 있다. 이쯤 되면 더 이상 환각에 의한 콘텐츠와 잘못된 정보만의 문제가 아니라, 소통 행위와 생성된 메시지의 도덕적 결과에 관한 문제이기도 한 것이다.
두 번째 선택지(교육과정 도입)의 경우에는 오늘날 글쓰기가 검색 엔진과 AI 텍스트 생성기 등 주어진 모든 디지털 도구를 활용하는 것을 의미한다는 점을 인정하는 것이다. 그렇지만 이러한 AI 텍스트 생성기를 사용하더라도 학생들이 여전히 도움 없이 글을 쓰는 실력을 향상시킬 수 있도록 하는 방법에 대해 고민하는 것이 중요하다. 이는 휴대용 계산기나 그 밖의 디지털 기기를 충분히 사용할 수 있음에도 학생들에게 계산하는 법을 가르치는 것과 비슷한 맥락이다. 그리고 학생들이 기술의 비용과 편익에 대한 인식을 바탕으로 비판적인 태도로 기술을 활용하는 학습 환경을 조성하는 방법에 대해서도 고민해야 한다. 사실 여기서 가장 큰 위험 하나는 자신도 모르게 의존성을 키워 LLM을 무비판적으로 사용하게 되고, 그 과정에서 학생들이 글을 읽고 쓰는 기본적인 능력(문해력)을 잃을 위험에 처하게 되는 것이다.
『국가』의 한 중간에 나오는 이 유명한 구절은 현대 철학자들이 사고 실험이라고 부를 만한 이야기이다. 이를 간단히 설명하면 다음과 같다. 어느 지하 동굴에 사람들이 쇠사슬로 묶인 채, 아무것도 없는 커다란 벽 앞에 앉아 있다. 벽에는 그림자 이미지들이 투사되고 있다. 이들은 어릴 때부터 이 상태로 살아왔으며, 고개를 돌릴 수 없어 그저 벽에 투사된 인공 이미지 외에는 아무것도 보지 못한다. 그래서 그들은 벽에 보이는 것이 현실이며 진실이라고 믿으며 살아간다. 그런 다음 이 사고 실험은 죄수 한 명이 풀려나는 상황을 가정하여, 진리와 실재에 대한 그 사람의 감각에 어떤 영향이 미칠지 우리에게 상상해 보도록 한다.

  작가 소개

지은이 : 마크 코켈버그
AI와 로봇공학의 기술윤리 및 철학 분야에서 세계적인 권위를 인정받고 있는 벨기에 출신의 기술철학자로 오스트리아 빈대학교의 미디어와 기술철학과 교수이자 유럽연합 집행위원회의 AI 고위 전문가 그룹에서 활동한다. 신뢰할 수 있는 AI 가이드라인 제정에 기여했고, 유럽의 다양한 로봇 및 AI 관련 연구 프로젝트에 윤리 전문가로 참여해 왔다. 2017년 벨기에 기술 선구자 50인 중 한 명으로 선정된 바 있다. 다수의 저명한 학술지의 편집 위원을 맡고 있으며, 국내에서 출간된 『인공지능은 왜 정치적일 수밖에 없는가The Political Philosophy of AI』, 『AI 윤리에 대한 모든 것AI Ethics』, 『뉴 로맨틱 사이보그New Romantic Cyborg』등 다수의 책과 논문을 집필했다.

지은이 : 데이비드 J.건컬
기술철학과 커뮤니케이션 분야를 융합하여 로봇 권리와 윤리 담론을 선도하며 유럽과 북미, 남미, 일본 등지에서 초청 강연과 자문 등을 수행하며 세계적인 학자로 알려져 있다. 미국 노던일리노이 대학교의 커뮤니케이션학과 교수이자 폴란드 라자르스키 대학교의 응용 윤리 담당 교수로 재직하고 있다. EU 등 주요 글로벌 기관의 정책 및 윤리 가이드라인 제정 과정에서 필수적인 레퍼런스로 인용되고 있는 그의 저작은 기술 관료와 엔지니어들이 놓치기 쉬운 ‘인간과 기술이 맺는 사회적 관계의 본질'을 일깨워 주며, 정책입안자들에게 가장 신뢰할 수 있는 인문학적 나침반 역할을 제공한다. 『The Machine Question』, 『Robot Rights 』, 『Person, Thing, Robot 』 등 다수의 책과 논문을 집필했다.

  회원리뷰