들어가며
서론 | 무엇이 문제인가?
1장 인공지능은 무엇인가?
‘좁은 AI’, ‘범용 AI’, ‘강한 AI’ ― 도전 과제를 선택하라 ｜ 퀴즈쇼를 준비할 때 알아둘 만한 단어: GOFAI ｜ 기계가 학습하도록 가르치기 ｜ 심층학습과 신경망은 어떨까? ｜ 어느 AI가 지능적인가? ｜ 오늘날 AI가 부족한 점 ｜ AI가 하지 못하는 일을 알아내는 것이 갈수록 어려워지고 있다 ｜ 오늘날 AI는 누가 만들고 있을까?
2장 인공지능은 안전할 수 있을까?
AI와 함께 사는 삶은 과연 과학소설에 나올 법한 끔찍한 공상일까? ｜ 오늘날 AI를 둘러싼 안전 문제 ｜ 몇 가지 사례 연구 ｜ 예측 가능한 예측 불가능성
3장 인공지능은 프라이버시를 존중할 수 있을까?
프라이버시는 무엇인가? ｜ 프라이버시에 신경을 써야 하는 이유는 무엇인가? ｜ AI는 어떻게 프라이버시를 침해하는가? ｜ AI 생태계는 개인 데이터의 비축과 판매를 조장한다 ｜ AI 위협으로부터 프라이버시를 보호하려면 어떻게 해야 할까? ｜ 우리는 프라이버시를 소중히 여기는가?
4장 인공지능은 공정할 수 있을까? … 157
정의란 무엇인가? ｜ 누가 재판 전에 감옥에 가는가? ｜ 인간 판사 대 AI: 누가 더 정확한가? ｜ 공정성을 명시하기 ｜ 인간 판사 대 AI: 누구의 편향이 더 심한가? ｜ 절차적 정의는 어떨까? ｜ 해석 가능성이 문제를 해결해줄까? ｜ 공정한 AI
5장 인공지능에 (혹은 AI 제작자와 사용자에게 책임을 물을 수 있을까?
책임이란 무엇인가? ｜ 인간 운전자에게 책임이 있을까? ｜ 보행자에게 책임이 있을까? ｜ AI 관여자들에게 책임이 있을까? ｜ 우버에 책임이 있을까? ｜ 애리조나주 정부에 책임이 있을까? ｜ 인공지능에 책임이 있을까? ｜ 책임 공백
6장 인공지능에 인간의 도덕성을 탑재할 수 있을까?
하향식 도덕성은 어떨까? ｜ 상향식 도덕성은 어떨까? ｜ 두 방법의 장점을 취합하기 ｜ 누가 신장을 받을 것인가? ｜ 신장 분배 AI에 도덕성
왜 ‘도덕적인 AI’인가?
‘도덕적인 AI(Moral AI’라니, 제목이 궁금증을 자아낸다. 과학소설 팬이라면 혹시 도덕성과 자율성, 자유의지를 지닌 새로운 인공지능의 출현을 예언하는 책일까 기대할지도 모르겠다. 하지만 이 책에서 제안하는 ‘도덕적인 AI’는 그런 먼 미래의 인공지능이 아니다. 넓게 말하면, “인간의 가치를 학습하고 구현하는 AI”, 좁게 말하면 ‘인간의 도덕적 판단을 보조하는 시스템’이다. 그 가능성을 보여주는 대표적인 연구 사례가 ‘신장 이식을 받을 환자의 우선순위를 정하는 AI’이다.
병원에서 이식의 우선순위는 대체로 1 이식 외과의의 의학적 판단, 2 신장 이식 방침을 결정하는 병원 담당자들의 의료적·실용적 판단(적합성, 연령, 건강, 장기의 질, 대기 기간 등으로 결정된다(여기서 도덕적 판단은 제외. ‘도덕적인 AI’는 두 가지 방향에서 학습이 이루어지는데, 먼저 이식 외과의가 신체적, 정신적으로 이상적인 상태일 때 내릴 법한 의학적 판단을 프로그래밍하고, 다음으로 병원의 이식 방침을 결정하는 집단의 판단을 모형화한다. 특히 후자의 경우에는 병원 관계자뿐 아니라 변호사, 환자, 비전문가 등 다양한 시민들을 참여시킴으로써 공동의 도덕적 판단을 자동화 시스템으로 구축할 수 있다. 이 기술 도구를 이용하면, 외과의의 실수와 편향을 방지하고, 신장 분배 우선순위 목록을 해당 집단의 도덕적 가치와 일치시킬 수 있다. 이 책은 이 기술을 시스템에 구현하기 위해, 어떻게 도덕적 특징을 뽑아내고, 가중치를 측정하고, 도덕적 판단을 모형화하고, 집단의 판단을 종합하고, 도덕적 판단을 이상화할 수 있는지 현재 연구되는 아이디어들을 제시하고 있다(239~253면 참조.
인간의 도덕성을 탑재한 AI
‘도덕성을 지닌 인공지능의 출현’을 기대했던 독자들한테는 여전히 시시해 보일지 모르지만, 이 기술의 잠재력은 어마어마하다. 핵심은 두 가지다. 첫째, 사람들의 도덕적 판단을 도울 수 있다. 불완전한 인간은 언제든 도덕적 오류를 범할 수 있
