자유, 인종차별, 노예상태, 정의, 민주주의, 기후변화 등 오늘날 정치적으로 쟁점이 되는 가장 중요한 문제를 인공지능과 로봇에 제기되는 문제와 관련지어 다루면서 그 위험성과 가능성을 제기한다. 인공지능 문제는 이미 정치적이며 정치와 권력의 측면에서 중립적이지 않다. 관련 기술인 데이터 과학, 로봇 기술도 마찬가지이다. 인공지능 기술은 이미 도구적 역할을 넘어 인간의 권한을 강화하기도, 약화시키기도 한다.
인공지능은 구조적인 불평등을 악화시킬 수 있고, 편향을 학습하여 부당한 차별을 초래할 수도 있다. 또 우리의 행동을 조종하고 자율성을 기만하면서 개인의 자유를 침범하기도 한다. 알고리즘에 의한 자동 추천시스템이 대표적이다. 정치적으로 인간만이 중요한 것은 아니라는 관점에서 동물과 환경에 제기되는 문제들을 인공지능과 관련지어 다룬다. 이런 점에서 이 책은 시의적절하며 지금 우리 모두에게 유익하다.
이 책은 자유, 인종차별, 노예상태, 정의, 불평등, 민주주의, 권력, 기후변화, 동물권 등 오늘날 정치적으로 쟁점이 되는 가장 중요한 문제를 인공지능과 로봇에 제기되는 문제와 관련지어 다루면서 그 위험성과 가능성을 제기한다.
인공지능은 인간의 행동을 조종하고 자율성을 기만하면서 개인의 자유를 침범한다. 자유에 대한 정치철학의 오랜 논의(소극적 자유와 적극적 자유)와 관련하여, 인공지능이 소비자의 선택을 유도하는 부드러운 개입을 의미하는 자유주의적 넛지가 개인의 자유를 어떻게 박탈하는지 문제 삼는다. 의사 결정까지 인공지능이 대신하는 상황이 장차어떤 결과를 가져올지 그 가능성도 살펴본다. 인간의 노동을 대체하는 로봇의 사용과 그 위험성을 이야기한다. 표현의 자유와 인공지능에 의한 미디어의 내용조정 문제도 다룬다.
인공지능은 하나부터 열까지 정치적이며, 정치적으로 중립적이지 않다.
평등과 정의 측면에서 인공지능과 데이터 과학, 로봇의 정치적 영향력과 자동화 및 디지털화가 불러일으킬 수 있는 인공지능을 통한 불평등과 불공정 문제, 성차별, 인종차별 등 편향과 차별을 롤스의 긍정적 차별, 마르크스주의, 자본주의, 정체성 정치이론,반인종차별주의, 반식민주의 사상 등과 연관 지어 설명한다.
인공지능은 민주주의를 위협한다.
“우리는 이미 인공지능을 이용하여 우리를 조종하는 거대 기업에 의해 지배되고 있다고 할 수 있는데, 이런 상황은 주보프가 지적했듯이 민주적 통제를 완전히 벗어나 있다. 이미 우리가 구글, 아마존, 그리고 또 다른 거대 기업의 지배를 받고 있다면 누가 지배해야 하는지는 이론적인 질문일 뿐이다. 이 점에서 인공지능에는 본질적으로 반민주적인 것이 있다.” 민주주의와 관련하여 플라톤식 기술관료주의 개념, 듀이와 하버마스의 참여 및 숙의 민주주의의 이상, 무페와 랑시에르의 경합적·급진적 민주주의를 살펴보고 소셜 미디어와 인공지능이 결합하여 만들어낸 정보 거품과 반향실, 인공지능을 이용한 포퓰리즘 등의 문제들은 다룬다. 기술로 생기는 전체주의의 문제, 아렌트(2006)가 이른바 ‘악의 평범성’이라 불렀던 개념을 가져와 인공지능이 기업 차원의 조작과 관료주의적 인사 관리를 위한 도구로 이용될 때의 위험성을 지적하기도 한다.
규율과 감시, 지식, 권력관계에 관한 푸코 이론을 가져와, 인공지능과 관련지어 그 영향을 살펴본다.
권력이 사회 곳곳에 퍼져 있다는 푸코의 권력 개념을 소개하고 권력과 인공지능의 관계에 대해 생각할 수 있는 개념적 틀을 제공한다. 마르크스주의와 비판이론, 푸코와 버틀러, 수행 중심적 접근 방식이라는 세 가지 권력이론을 통해 인공지능이 유도하는 조작 등을 살펴보고 자본주의 맥락에서 사람들을 평가ㆍ분류ㆍ감시하는 데이터 과학을 조명한다.
인간만이 정치적으로 중요한 것은 아니다.
비인간을 포함하는 자유, 정의, 민주주의 같은 개념에 대해 다시 생각해야 한다는 주장과 함께, 비인간인 동물과 환경에 미치는 인공지능과 동물, 환경, 인공지능의 정치적 지위에 관해 논하고, 동물권과 환경이론, 인공지능과 로봇 윤리, 전통적 인간 중심의 정치적 관점에 문제를 제기하는 포스트휴머니즘, 인공적인 초지능자들이 인간을 대체할 거라고 주장하는 트랜스휴머니즘이 제기하는 주장들을 연관 지어 살펴본다.
서론
1장 자유, 인공지능에 의한 조작과 로봇 노예
자유와 현대판 노예에 대한 역사적 선언문
인공지능, 감시, 법 집행, 소극적 자유의 박탈
인공지능과 인간 행동의 조종, 인간의 자율성 기만하기
자기실현과 해방에 대한 위협, 인공지능을 이용한 착취와 로봇 노예의 문제
누가 인공지능에 관한 결정을 내리는가? 참여로서의 자유, 인공지능 선거, 표현의 자유
자유와 또 다른 가치들에 대한 정치적 관념들
2장 평등과 정의, 인공지능에 의한 편향과 차별
평등과 정의에 관한 문제 제기, 편향과 차별에 대해
편향은 왜 문제가 되는가?(1) 영어권 자유주의 정치철학에서의 평등과 정의
편향은 왜 문제가 되는가?(2) 보편주의적 자유주의 사상에 비판적인, 계급과 정체성 이론
정치적으로 중립적이지 않은 인공지능
3장 민주주의, 반향실과 기계 전체주의
민주주의에 대한 위협으로서의 인공지능
민주주의, 지식, 숙의 정치를 위협하는 인공지능
플라톤에서 시작하기, 민주주의와 지식과 전문성
다수결 원칙과 대의제를 넘어서
숙의적？참여적 민주주의와 경합적？급진적 민주주의
정보 거품, 반향실, 그리고 포퓰리즘
더 많은 문제들, 조종과 대체와 책임 그리고 권력
인공지...능과 전체주의의 근원, 아렌트로부터 얻은 교훈
인공지능과 전체주의
전체주의의 기원과 악의 평범성에 관한 아렌트의 연구
4장 권력, 데이터에 의한 감시와 자기 규율
정치철학의 주제로서의 권력
권력과 인공지능, 일반적인 개념적 틀
마르크스주의, 기술자본주의를 위한 도구로서의 인공지능
푸코, 인공지능은 어떻게 인간을 종속시키고 주체로 만드는가?
규율과 감시
지식과 권력, 주체와 자아를 형성하고 만든다는 것
기술수행과 권력, 그리고 인공지능
결론과 남은 질문
5장 비인간은 어떻게 되는가? 환경 정치와 포스트휴머니즘
인공지능과 로봇, 인간중심 정치를 넘어서
인간만이 정치적으로 중요한 것은 아니다, 동물과 자연의 정치적 지위
인공지능과 로봇 정치학에 대한 함의
비인간과 자연환경에 인공지능이 미치는 영향의 정치적 함의
인공지능의 정치적 지위란?
6장 정치적 기술
이 책의 역할과 결론
앞으로 해야 할 일, 정치적 기술에 관한 문제
감사의 말
참고문헌
찾아보기
11쪽
왜 이런 일이 생겼을까? 이 사건을 보도한 〈뉴욕 타임스〉기자와 자문에 응한 전문가는 ‘윌리엄스 사건이 안면인식 알고리즘의 오류로 인해 미국인이 부당하게 체포됐다고알려진 최초의 사례일 수 있다’고 추측한다. 기계학습 방식의 인공지능이 사용되는 안면 인식 시스템은 결함이 있는 동시에 편향됐을 가능성도 크다. 다른 인구 집단보다 백인 남성의 얼굴을 더 정확히 인식하기 때문이다. 그래서 윌리엄스의 사건에서처럼 무고한 사람을 범인으로 인식하고, 경찰이 일을 제대로 하지 않을 경우 범죄를 저지르지도 않은 사람이 체포되는 결과를 초래한다.
41
그러나 이러한 인공지능에 의한 넛지는 무언가를 하게 하거나 결정을 하도록 강요받는게 아니기 때문에, 소극적 자유에 대한 위협보다는 적극적 자유에 대한 위협에 해당한다. 즉, 넛지는 인간의 잠재 의식 속에 있는 심리에 영향을 미쳐, 목표를 세우고 스스로 선택하는 합리적인 인간으로 존중하기보다는 인간의 마음을 조종한다. 광고와 선전이 그렇듯이 인간의 잠재의식을 이용하는 방식은 넛지가 처음은 아니다. 하지만 넛지는 자유주의적인 척하면서 인공지능으로 점점 더 빠르게 확산하여 광범위하게 영향을 끼칠 가능성이 크다.
77
디지털 기술과 매체는 자유만이 아니라 평등과 정의에도 영향을 미친다. 반 다이크에 따르면, 네트워크 기술은 생산과 분배를 보다 효과적이고 효율적으로 만들지만 동시에 불평등을 증가시킨다, “네트워크 기술은 전 세계적으로는 국가들의 결속과 함께 불균등한 발전을 촉진시키는 경향이 있으며, 지역적으로는 전 세계의 정보 인프라에 직접적으로 연결되는 지역과 그렇지 않은 지역으로 나눠 이중 경제를 형성하게 돕는다.”(336) 경제발전의 이러한 차이는 발전 ‘속도’가 서로 다른 사회를 만든다. 어떤 사람은, 또 어떤국가는 다른 사람보다, 그리고 다른 국가보다 기술과 매체로부터 더 많은 혜택을 받는다.
106~7
같은 관점에서 보면 문제의 편향된 알고리즘이 가지고 있는 잘못된 점은 이 알고리즘이 중립적이지 않은 게 문제라기보다는, 구조적으로 흑인이 불리하기 때문에 기존의 불평등을 재생산하고 무엇보다도 인종적 편견이라는 “연동 형태의 차별”에 기여하고 있다는 사실이다. 한편, 리는 많은 반려 로봇과 스마트 인형의 등장이 “백인성을 정상화한다”고 주장한다. 따라서 이런 주장은 기술이 중립적이라는 도구주의 견해를 무너뜨리는 동시에 “공평한 경기장”이 있고, 심지어 “불평등이 바로잡히는” 곳으로 이야기되는(흔히 업계에서 나오는) 디지털과 중립적인 기술에 근본적으로 이의를 제기한다.
135
그렇다면 이러한 민주주의가 인공지능에 어떤 의미인가? 이 같은 형태의 민주주의는 전문가와 인공지능에 의한 배타적인 기술관료적인 거버넌스와 알고리즘과 인공지능 추천에 대한 맹목적인 배타적 의존 같은 비참여적 거버넌스 방식를 배제한다. 하지만 시민들이 스스로 최종 발언권을 가지고 자신의 판단을 믿고 논의하는 한, 민주적 절차에 인공지능으로부터 얻은 지식과 전문가가 어떻게든 관여할 수 있는 가능성의 여지는 있다. 그렇지만 인공지능이 잠재적으로 관여할 수 있는 정확한 형태는 명확하지가 않다.
169
아렌트의 말이 옳다면, 권위주의와 전체주의는 파괴된 사회구조를 만들어내기보다는 이미 파괴된 구조 위에서 성장한다. 아렌트의 관점에서 전체주의는 엄밀히 말해 정치적 움직임이 아니라 정치영역을 파괴하는 활동이다. 권위주의적이라는 점에서 반민주적인 동시에 “조직적인 고독”이고, 서로에 대한 신뢰의 파괴이며, 진실 및 사실에 대한 믿음의 약화이기도 하다. ...이러한 관점에서 기술에 관한 문제를 다음과 같이 반드시 다시 물어야 한다. 인공지능 같은 현대사회의 기술이 전체주의의 조건의 원인이 되고, 또 그렇게 될 가능성이 있는가? 원인이 된다면, 그 이유는 무엇인가?
203
“데이터 식민주의”는 인공지능과 권력에 대한 비판적 시각을 취하는 것과 관련해서, 인공지능을 통한 인간의 삶과 착취가 비판이론의 관점에서 용납될 수 없음을 표현하는 데 사용되는 또 다른 용어이다. 이로 인해 식민주의 역사를 통해서도 데이터의 독점을 이해할 수 있다. 즉, 과거 식민주의가 특정 국가와 기업이 영리를 목적으로 식민지의 영토와 자원을 독점했듯이, 데이터 식민주의는 데이터의 독점을 통해 인간을 착취한다는 것이다. 2장에서 살펴봤듯이, 식민주의는 인공지능과 편향에 관한 논의에서도 소환된다.
232
나는 파르비아이넨과 함께 안무 개념으로 인공지능과 로봇이 정치적 관심과 전략 상황에 활용된다고 주장한 적이 있다. 우리는 인공지능을 포함하고 있다는 휴먼노이드 로봇, 소피아와 함께하는 수행이 인공지능 정치학과 연결되어 있음을 주장했다. 다시 말해 소피아와 함께하는 수행은 한 민간 기업(핸슨 로보틱스)의 이익에만 보탬이 되는 게 아니라, 관련 기술과 이 기술과 연관되는 시장까지 확장하려는 사람들의 이익에도 부합한다.” 이를 ‘권력’이라는 용어를 사용하여 다음과 같이 표현할 수도 있다.
264
비인간중심주의 인공지능의 정치학이 기술 중심에서 멀어지면, 이런 태도와 일하는 방식을 문제 삼을 수 있다. 인간과 관련된 모든 문제의 해결책을 인공지능에 질문한다는 의미일 것이다. 또 적어도 인공지능과 데이터 과학을 통해 통제력을 높이기보다는, 행성에 대한 우리의 통제를 느슨하게 하는 아이디어를 고려한다는 의미일 것이다. 일단 기술해결주의 또는 부르사드 말하는 “기술우월주의”, 즉 기술이 항상 해결책이라는 믿음에 의문을 제기하면, 더 이상 우리는 인공지능을 인간의 모든 문제에 대한 마법의 해결책으로 보지 않고 인간과 비인간을 위해 인공지능이 어디까지 할 수 있는지 그 한계에 더 주목하게 될 것이다.
마크 코켈버그 [저]
버밍엄대학교(University of Birmingham)에서 박사학위를 받은 벨기에 출신의 기술철학자이다. 2007년에는 네덜란드 생명윤리학회상(Prize of the Dutch Society for Bioethics)을 받았고, 2014년에는 기술철학 석사 프로그램 최우수 강사(Best Lecturer of the Philosophy of Technology Master programme)로 임명되었다. 2017년 4월에는 벨기에 기술 선구자 50인(Top 50 Belgian tech-pioneers) 중 한 명으로 임명되고, 최근에는 유네스코(UNESCO) 세계과학기술윤리위원회(World Commission on the Ethics of Scientific Knowledgeand Technology: COMEST)에 임명되는 등 기술철학자로서 전 세계적으로 명성을 쌓고 있다. 그는 기술철학 분야, 특히 로봇공학과 정보통신기술(ICT)의 윤리에 관해 수많은 논문과 책을 집필하였다. 2015년부터 빈대학교(University of Vienna)의 미디어와 기술철학 교수로 재직 중이다.
전체 0개의 구매후기가 있습니다.
인터파크도서는 고객님의 단순 변심에 의한 교환과 반품에 드는 비용은 고객님이 지불케 됩니다.
단, 상품이나 서비스 자체의 하자로 인한 교환 및 반품은 무료로 반품 됩니다.
교환 및 반품이 가능한 경우
상품을 공급 받은 날로부터 7일이내 가능 공급받으신 상품의 내용이 표시, 광고 내용과 다르거나 다르게 이행된 경우에는 공급받은 날로부터 3개월 이내, 혹은 그사실을 알게 된 날 또는 알 수 있었던 날로부터 30일 이내 상품에 아무런 하자가 없는 경우 소비자의 고객변심에 의한 교환은 상품의 포장상태 등이 전혀 손상되지 않은 경우에 한하여 가능
교환 및 반품이 불가능한 경우
구매확정 이후(오픈마켓상품에 한함) 고객님의 책임 있는 사유로 상품 등이 멸실 또는 훼손된 경우
(단, 상품의 내용을 확인하기 위하여 포장 등을 훼손한 경우는 제외) 시간이 지남에 따라 재판매가 곤란할 정도로 물품의 가치가 떨어진 경우 포장 개봉되어 상품 가치가 훼손된 경우
다배송지의 경우 반품 환불
다배송지의 경우 다른 지역의 반품을 동시에 진행할 수 없습니다. 1개 지역의 반품이 완료된 후 다른 지역 반품을 진행할 수 있으므로, 이점 양해해 주시기 바랍니다.
중고상품의 교환
중고상품은 제한된 재고 내에서 판매가 이루어지므로, 교환은 불가능합니다.
오픈마켓 상품의 환불
오픈마켓상품에 대한 책임은 원칙적으로 업체에게 있으므로, 교환/반품 접수시 반드시 판매자와 협의 후 반품 접수를 하셔야하며, 반품접수 없이 반송하거나, 우편으로 보낼 경우 상품 확인이 어려워 환불이 불가능할 수 있으니 유의하시기 바랍니다.
배송예정일 안내
인터파크 도서는 모든 상품에 대해 배송완료예정일을 웹사이트에 표시하고 있습니다.
<인터파크 직배송 상품>
상품은 월~토요일 오전 10시 이전 주문분에 대하여 당일 출고/당일 배송완료를 보장하는 상품입니다.
상품은 서울지역/평일 주문분은 당일 출고/익일 배송완료를 보장하며, 서울외지역/평일 주문분의 경우는 오후 6시까지 주문분에 대하여 익일 배송완료를 보장하는 상품입니다. (단, 월요일은 12시까지 주문에 한함)
상품은, 입고예정일(제품출시일)+택배사배송일(1일)에 배송완료를 보장합니다.
~
상품은 유통특성상 인터파크에서 재고를 보유하지 않은 상품으로 주문일+기준출고일+택배사배송일(1일)에 배송완료를 보장합니다.(토/공휴일은 배송기간에 포함되지 않습니다.) ※기준출고일:인터파크가 상품을 수급하여 물류창고에서 포장/출고하기까지 소요되는 시간
<업체 직접배송/오픈마켓 상품>
~
상품은 업체가 주문을 확인하고, 출고하기까지 걸리는 시간입니다. 주문일+기준출고일+택배사배송일(2일)에 배송완료를 보장합니다.(토/공휴일은 배송기간에 포함되지 않습니다.) ※5일이내 출고가 시작되지 않을시, 오픈마켓 상품은 자동으로 주문이 취소되며, 고객님께 품절보상금을 지급해 드립니다.
배송비 안내
도서(중고도서 포함)만 구매하시면 : 배송비 2,000원 (1만원이상 구매 시 무료배송) 음반/DVD만 구매하시면 : 배송비 1,500원 (2만원이상 구매 시 무료배송) 잡지/만화/기프트만 구매하시면 : 배송비 2,000원 (2만원이상 구매 시 무료배송) 도서와 음반/DVD를 함께 구매하시면 : 배송비 1,500원 1만원이상 구매 시 무료배송) 도서와 잡지/만화/기프트/중고직배송상품을 함께 구매하시면 : 2,000원 (1만원이상 구매 시 무료배송) 업체직접배송상품을 구매시 : 업체별로 상이한 배송비 적용
* 세트상품의 경우 부분취소 시 추가 배송비가 부과될 수 있습니다.
* 북카트에서 배송비없애기 버튼을 클릭하셔서, 동일업체상품을 조금 더 구매하시면, 배송비를 절약하실 수 있습니다.
해외배송 안내
인터파크도서에서는 국내에서 주문하시거나 해외에서 주문하여 해외로 배송을 원하실 경우 DHL과 특약으로 책정된 요금표에
의해 개인이 이용하는 경우보다 배송요금을 크게 낮추며 DHL(www.dhl.co.kr)로 해외배송 서비스를 제공합니다. 해외배송은 도서/CD/DVD 상품에 한해 서비스하고 있으며, 다른 상품을 북카트에 함께 담으실 경우 해외배송이 불가합니다.
해외주문배송 서비스는 인터파크 도서 회원 가입을 하셔야만 신청 가능합니다.
알아두세요!!!
도매상 및 제작사 사정에 따라 품절/절판 등의 사유로 취소될 수 있습니다. 오픈마켓업체의 배송지연시 주문이 자동으로 취소될 수 있습니다. 출고가능 시간이 서로 다른 상품을 함께 주문할 경우 출고가능 시간이 가장 긴 기준으로 배송됩니다. 유통의 특성상 출고기간은 예정보다 앞당겨지거나 늦춰질 수 있습니다. 택배사 배송일인 서울 및 수도권은 1~2일, 지방은 2~3일, 도서, 산간, 군부대는 3일 이상의 시간이 소요됩니다.
;)
전체 0개의 구매후기가 있습니다.
교환 및 반품이 가능한 경우 
상품을 공급 받은 날로부터 7일이내 가능 
상품은 월~토요일 오전 10시 이전 주문분에 대하여 당일 출고/당일 배송완료를 보장하는 상품입니다.
상품은 서울지역/평일 주문분은 당일 출고/익일 배송완료를 보장하며,
상품은, 입고예정일(제품출시일)+택배사배송일(1일)에 배송완료를 보장합니다.
~ 
상품은 유통특성상 인터파크에서 재고를 보유하지 않은 상품으로
상품은 업체가 주문을 확인하고, 출고하기까지 걸리는 시간입니다.
