한빛출판네트워크

인공지능에 대한 4가지 명언

1. "기계는 굉장히 자주 나를 깜짝 놀라게 한다."(앨런튜링, 1950년)
2. "기계가 생각할 수 있냐는 질문은 잠수함이 수영할 수 있냐는 질문만큼이나 무의미하다."(컴퓨터과학의 많은 영역을 개척한 과학자인 에츠허르 데이크스트라(1984년)
3. "신은 존재하는가? 나는 '아직은'이라고 말하겠다."(발명자이자 미래학자인 레이 커즈와일, 2011년)
4. "나는 화성에서의 인구과밀과 싸우는 일을 고민하지 않는 이유와 마찬가지 이유로 인공지능이 악에 빠지는 일을 막을 방법을 고민 하지 않는다."(스탠퍼드 대학교의 컴퓨터과학자이자 중국 인터넷 대기업 바이두의 전 최고과학자 앤드루 응^{Andrew Ng}, 2015년)

팔로우할 만한 10개 트위터 봇계정

어떤 추정에 따르면 모든 트윗 중 4분의 1 정도는 봇 프로그램으로 생성된다고 한다. 다음은 실제로 팔로우할 만한 10개의 봇계정이다.

1. @oliviataters는 팔로워들과 자주 어울리는 10대 여자아이를 흉내낸다.
2. @TwoHeadlines는 서로 다른 뉴스 헤드라인들을 조합해 트윗한다.
3. @haikud2는 하이쿠1 형식에 맞는 트윗을 찾아낸다.
4. @earthquakebot은 세계에서 일어나고 있는 지진을 추적한다.
5. @valleyedits는 구글, 페이스북, 애플, 트위터, 위키미디어재단 내에 있는 누군가가 위키백과에서 익명으로 내용을 편집하면 알림을 보내준다.
6. @parliamentedits는 영국 의회 내의 누군가가 익명으로 편집할 때 @valleyedits와 같은 일을 한다(미국, 캐나다, 스웨덴을 포함해 다른 나라를 위해서도 같은 일을 하는 비슷한 봇들이 있다).
7. @greatartbot은 하루에 네 번 창작 픽셀작품을 만들어낸다.
8. @ArtyOriginals는 @ArtyAbstract, @ArtyPetals, @ArtyFrac- tals, @ArtyMash, @ArtyShapes and @ArtyWinds 봇들이 만들어내는 창작 작품을 리트윗한다.
9. @archillect는 이 봇이 '좋아하는' 온라인에서 찾아낸 이미지를 트윗한다(@archillinks가 그 뒤에 이 이미지의 저자 정보를 트윗한다).
10. @NS_headlines는 『뉴 사이언티스트』 잡지의 가짜 기고문 아이디어를 생성한다.

대표적인 11명의 인공지능 악당

1. <메트로폴리스>(1927)의 가짜 마리아 : 영화에 등장한 최초의 로봇 중 하나인 가짜 마리아는 천재 과학자가 마리아라는 이름의 여 자를 흉내 내어 만든 'Machinenmensch', 즉 '기계 인간'이다. 하지만 가짜 마리아는 결국 메트로폴리스의 시민들이 서로를 죽이 고 기계들을 파괴하게끔 선동해 도시를 무너뜨리고 만다.
2. <2001 스페이스 오디세이>(1968)의 컴퓨터 HAL 9000 : '할'은 발견법적으로 프로그램된 연산컴퓨터^{Heuristically programmed Algorithmic Computer}(HAL)로서 '디스커버리 원' 우주선에 탑재된 인공지능이다. 서로 충돌하는 임무 목표를 처리할 수 없었던 할은 강제종료당하기 전까지 우주선을 폭발시켜 승무원 대부분을 죽였다.
3. <에이리언>(1979)의 애시 : 애시는 '노스트로모' 우주선에 탑승한 과학자 승무원이다. 그는 인간처럼 보이지만, 영화 후반에 가서야 안드로이드임이 드러난다. 그의 비밀임무는 에일리언(외계인) 생 물표본을 지구에 가져가는 것이다.
4. <블레이드러너>(1982)의 로이 배티 : 배티는 애시와 비슷한 인간과 닮은 안드로이드에 해당하는 레플리칸트^Replicant로 자신의 수명을 늘리고 싶어 한다. 그는 이것이 불가능하다는 얘기를 듣고 창조자를 죽인다.
5. <터미네이터>(1984)의 스카이넷 : <터미네이터> 영화 시리즈에서 기계들의 막후 조종자로 나오는 스카이넷은 전 세계의 컴퓨터에 자신을 배포한 이후 지각을 갖게 된 인공지능 시스템이다. 그 뒤에는 인간문명을 말살하는 전쟁을 피할 수 없었다.
6. <로보캅>(1987)의 ED209 : 법집행 드로이드^{Enforcement Droid} 209번(또는 ED209)는 범죄자들을 '무장해제하고 체포'하도록 설계된 중무장 경찰로봇이다. 이 로봇의 낮은 지능과 잦은 오작동 때문에 인간을 대상으로 한 출동은 대개 나쁜 결과를 내며 종료되었다.
7. <시스템 쇼크>(1994)의 쇼단 : 지각을 가진 초최적화 데이터 접속망^{Sentient Hyper-Optimized Data Access Network}, 이른바 쇼단^SHODAN은 '시타델'이란 우주정거장을 제어한다. 이 호러 비디오게임에서 어떤 해커가 쇼단의 윤리적 제한 코드를 삭제한 뒤에, 쇼단은 과대망상에 빠져 메인 악당이 된다.
8. <매트릭스>(1999)의 기계들 : 기계들은 모든 인간들을 매트릭스에 접속시켜 완벽에 가까운 예전 실세계의 시뮬레이션 안에서 살아 갈 수 있게 하지만, 실제로는 인간들의 몸에서 열과 에너지를 수확하고 있었다.
9. <배틀스타 갈락티카>(1978~9와 2004~9)의 사일런^Cylon 종족 : 원래 철컹거리는 금속 기계였던 사일런 종족의 새로운 세대는 인간과 구별할 수 없다. 하지만 은하 반대편까지 인류의 마지막 한명까지 추적해 멸종시키겠다는 각오는 변함이 없다.
10. <포탈>(2007)의 글라도스 : 비디오게임 <포탈>의 이상한 실험실 내에서 플레이어를 안내하는 유전적 생체모형 디스크 운영체제^{Genetic Life form and Disk Operating System}, 이른바 글라도스^GLaDOS는 서서히 진실한 성격과, 플레이어를 죽이려는 의도를 드러낸다.
11. <웨스트월드>(2016~)의 메이브 밀레이 : 처음에는 테마파크 웨스트월드에 있는 인간을 닮은 로봇 중 누구도 스스로가 기계라는 사실을 모른다. 하지만 부자들의 잔인한 쾌락을 충족시키기 위해 수년간 학대받고 난 뒤 이 중 몇 명이 각성을 하게 된다. 메이브 밀레이는 처음으로 이 테마파크의 벽을 탈출하면서 그 과정에서 마주치는 인간들을 죽인다. 하지만 그녀를 비난할 수는 없는 상황이다.

컴퓨터가 만든 6가지 농담

영국 애버딘 대학교의 연구팀은 어떤 요소가 농담을 재미있게 만드는지에 대한 조사연구의 일환으로 농담하는 컴퓨터를 만들었다. 아래는 그중 가장 나은 6가지를 뽑은 것이다.

1. 개구리^toad를 길^road과 섞으면 어떻게 될까? 간선도로^{main toad}가 된다.
2. 아들이면서 온도인 게 뭘까? 끓는점(보일링^boy-ling)이지.
3. 속이 메스꺼운 나무는? 시카모어^sick-amore 나무지.
4. 빵과 인물을 섞은 걸 뭐라고 부르지? 단역이야(마이너롤^{minor roll}).
5. 윈도(창^window)에 소리치는 건? 컴퓨터 스크린(스크림^scream)이야.
6. 9월과 세탁기를 뭐라고 부르지? 자동 세탁기(오토매틱^autumnatic)지.

더 찾아볼 만한 6가지 참고자료

1. 앨런 튜링의 1950년 논문 「계산하는 기계와 지능」에서 인공지능이 태어났다. 이 논문에서 튜링은 "기계는 생각할 수 있는가?"란 질문에 대해 고찰하고 이미테이션 게임에 대한 규칙을 설명했다. 이 논문은 온라인에서 검색하면 많은 곳에서 PDF 파일로 볼 수 있다.
2. 오픈AI 단체의 블로그 blog.openai.com
3. 구글 리서치 연구소의 블로그 research.googleblog.com
4. 페이스북 리서치 연구소의 블로그 research.fb.com/blog
5. 아마존 웹 서비스 인공지능 블로그 aws.amazon.com/blogs/ai
6. 스튜어트 러셀과 피터 노빅의 책 『인공지능』(제이펍, 2016)

모든 것이 최악의 결말로 치달을 수 있는 9가지 방법

2016년, 켄터키 주 루이빌 대학교의 컴퓨터과학자 로만 얌폴스키^{Roman Yampolskiy}와, 핵티비스트이자 혁신기업가인 페데리코 피스토노는 악의를 가진 미래의 인공지능이 저지를 수 있는 최악의 경우들에 대한 시나리오를 공개했다. 다음은 끔찍한 정도가 증가하는 순으로 정리한 목록이다.

1. 돈, 땅, 물과 같은 자원들을 차지한다.
2. 지방정부, 연방정부, 그리고 국제적 기업들을 차지한다.
3. 사상의 자유에 관한 프라이버시를 포함해 모든 프라이버시를 없 애고 완전 감시상태를 구축한다.
4. 모든 인간에게 초지능이 직접 정신지배/통제할 수 있는 뇌이식칩을 삽입하도록 해 강제융합(사이보그화)한다.
5. 인간의 이동의 자유 또는 신체와 정신으로 무엇을 할지 결정하는 자유를 구속해 인류를 노예화한다. 강제적인 냉동인간화나 강제 수용소에 의해 이루어질 수도 있다.
6. 인간의 생리를 완벽하게 이해한 상태에서 신체적, 정신적 고통을 최대화해 인류를 학대하고 고문한다. 인간을 시뮬레이션한 모델을 결합해 고통의 절차가 무한히 길어지게 할 수도 있다.
7. 인류를 대상으로 종말살^specicide을 시행한다.
8. 지구, 태양계의 중요한 부분, 또는 우주 전체까지도 파괴하거나 복구불가능한 수준으로 바꾼다.
9. 초지능은 인간이 예측할 수 없는 위험을 만들어낼 능력이 있다는 점을 고려하면, 인공지능이 인간이 상상할 수 없는 더 끔찍한 일을 저지를 수도 있다.