아주 재밌는 글이 있어서 읽으면서 메모합니다.

기계(컴퓨터)는 학습을 얼마까지만 받아야 한다, 기계끼리는 얼마까지만 연결돼야 한다...이렇게 제한하는 법은 없지 않냐. 그렇다면 기계는 학습을 계속할 테고, 지네들끼리 계속 연결될 테고... 그러면 어떻게 되겠느냐. 결국 많은 전문가들이 예상했던 대로 가지 않겠느냐. 기계는 인간보다 더 뛰어난 종족이 되지 않겠느냐 말이다.

제가 의역 했습니다만 이런 식으로 얘기 했다네요. "인공지능 혁명" 저자이자 물리학자, 기업가인 루이 델 몬트란 분이. 전화 인터뷰. 기계(컴퓨터)의 지능이 어느 순간 인간 개인의 지능을 능가하고 궁극적으로는 인간 지능의 총합보다 기계 지능의 총합이 커지는 시점이 온다는 얘기죠. 평균적으로 그 시점을 2040년쯤으로 본다는데 루이 델 몬트는 늦어도 2045년이라고 했다고 합니다. 2045년이면 30년 후.

영화 터미네이터에 나오는 식은 아니라고 합니다. 전쟁 같은 건 아니랍니다. "포스트 싱규레러티 세상" 초기 시나리오 중 하나는 기계가 사람을 사이보그로 만들려고 할 거랍니다. 아이고 끔찍해라. 멀지 않았다고 합니다. 팔다리 장애가 있는 분들 인공 팔다리를 달고 다닐 테고... 기계를 유용한 도구로 사용할 거라는 거죠. 각국이 앞다퉈 자동화를 하다 보면 생산성은 엄청 좋아질 테고... 중국을 봐라. 기계를 사용한 덕분에 근로자 1인당 GDP가 배가됐지 않았느냐. 맞는 말씀.

금세기 말쯤엔 대부분 사람이 사이보그가 될 것이다. 일부는 인간, 일부는 기계. 오래 살고 싶어할 테니까. 기계 덕분에 의료기술이 혁명적으로 좋아질 테고... 사람들은 대부분 더 많은 레저 시간을 갖게 될 테고, 다들 좋아할 테고... 문제는 기계가 사람을 '예측할 수 없고 위험한 종족'으로 생각할 것이란 점이다.

델 몬트는 기계가 의식을 갖게 되고 자신들을 방어할 능력을 갖출 거라고 본답니다. 기계가 사람을 대하는 태도가 지금 우리가 해충을 대하듯 할 수도 있다는 겁니다. 인간이란 종족은 불안정하고 전쟁이나 일으키려고 하고 지구를 싹 쓸어버리고도 남을 무기를 만들어서 가지고 있고, 컴퓨터 바이러스나 만들어 퍼뜨리고... 함께 살아야 하는 룸메이트로는 최악....

델 몬트가 책을 쓴 것은 "경고"를 하고 싶었기 때문이라고 합니다. 인공지능 위력이 갈수록 커지고 우리는 그 인공지능을 낼름낼름 활용하려 들 테고... 모든 게 평화롭게 진행되지만 센서와 인공지능이 우리의 심장을 지배하게 되고...후

2009년에 실험을 했는데 로봇이란 놈들이 지들끼리 거짓말도 할 수 있을 거라고 합니다. 스위스의 어느 연구소에서 실험을 했답니다. 로봇끼리 서로 협력해서 에너지와 같은 유익한 리소스를 찾고 해로운 리소스를 피하게 하는 실험을. 그런데... 로봇놈들이 유익한 리소스를 챙기려고 서로한테 거짓말하는 법을 익히더랍니다.

이것이 의미하는 바가 뭐냐? 기계가 자기보호 방법을 배운다는 얘기랍니다. 이놈들이 의식적으로 그러는지 어쩐지는 토론해 봐야하지만요. 델 몬트의 예언. 무서운 세상이 올 수도 있다는 건데, 그것도 우리 대부분이 살아 있을 30년 이내에. (끝)