9. 마음을 지닌 기계의 탄생 2017-03-23T10:35:45+00:00

9. 마음을 지닌 기계의 탄생

의식, 자유의지, 정체성의 재발견

인공지능의 급속한 발전은 머지않아 ‘의식’을 가진 기계의 출현을 예고하고 있다. 그 순간 인류는 깊은 철학적 고뇌의 늪에 빠지고 말 것이다. 강한 인공지능을 의식을 가진 존재로 인정한다면, 그들은 인간의 고유한 특성이라 여겨지는 ‘자유의지’도 갖게 되는 것일까? 나의 의식을 복제한 기계가 탄생한다면 나라는 존재에 대한 인식, 즉 정체성은 또 어떻게 정의해야 할까?

Key Point

  • 철학적 좀비와 만남: 의식이 있느냐 없느냐 하는 것을 판단하는 것은 쉬운 문제가 아니다. 몇몇 철학자들은 주관적인 감각경험을 의미하는 ‘퀄리아’라는 개념으로 의식의 유무를 판단할 수 있다고 하지만, 데이비드 차머스는 ‘철학적 좀비’라는 생각실험을 통해 이러한 개념으로 의식이 있는 존재와 의식이 없는 존재를 구분할 수 없다는 것을 보여준다. 또한 미세소관에서 의식의 기원을 찾으려는 시도 역시 결국은 한계에 부딪히고 만다.
  • 믿음의 도약: 의식이 있느냐 없느냐 하는 문제는 해결하기 어렵지만, 그럼에도 우리는 의식의 유무를 기준으로 현실적인 가치판단을 한다. 결국 우리는 누구나 의식과 관련하여 ‘믿음의 도약’을 할 수 밖에 없다. 그런 측면에서 인간은 어떤 존재가 의식이 있느냐 없느냐 하는 판단을 할 때 겸손의 미덕을 발휘해야 한다.
  • 눈 감고 운전하기: 우리는 실제로 우리가 일상적으로 하는 행동도 인식하지 못하고 기억하지 못하는 경우가 많다.
  • 영적인 기계의 탄생: 의식이 먼저일까? 물질이 먼저일까? 결국 모든 존재는 물질을 기반으로 의식을 갖기 위해 진화한다. 기계 머지않아 인간과 구별할 수 없는 수준의 의식을 갖게 될 것이고, 결국 인간과 기계의 구분은 무의미해질 것이다.
  • 자유의지: 여러 신경과학의 실험을 통해 우리 몸의 행동이 의식적인 판단보다 뒤늦게 나타난다는 것이 밝혀지고 있다. 또한 우리 뇌는 자신도 모르게 한 행동을 자신의 판단에 기인한 것이라고 설명하는 ‘작화증상’을 일관되게 보여준다. 더 나아가 우주의 모든 일이 이미 결정되어 있을 가능성을 증명하는 세포자동자라는 수학적 개념도 존재한다. 다만 우리는 ‘우리에게 자유의지가 있다’고 믿을 뿐이다.
  • 정체성: 신피질에 저장되어 있는 패턴과 우리 몸의 다양한 정보를 그대로 복제한 새로운 기계가 탄생한다면 그것은 나와 같은 존재일까 아닐까? 또는 우리 뇌를 인공적인 장기로 바꾼다면 그 사람은 여전히 나와 같은 존재일까 아닐까? 머지않은 미래에 다가올 정체성의 혼란을 미리 경험한다.

주석

1. 뇌는 기계다

John R. Searle, “I Married a Computer,” in Jay W. Richards, ed., Are We Spiritual Machines? Ray Kurzweil vs. the Critics of Strong AI (Seattle: Discovery Institute, 2002).

2. 세포골격 미세섬유 cytoskeletal filament

Stuart Hameroff, Ultimate Computing: Biomolecular Consciousness and Nanotechnology (Amsterdam: Elsevier Science, 1987).

3. 마취상태각성anesthesia awarenesst

S. Sebel et al., “The Incidence of Awareness during Anesthesia: A Multicenter United States Study,” Anesthesia and Analgesia 99 (2004): 833― 39.

4. 의식이란 매혹적이지만 규정하기 힘든 현상이다.

Stuart Sutherland, The International Dictionary of Psychology (New York: Macmillan, 1990).

5. 대왕오징어

David Cockburn, “Human Beings and Giant Squids,” Philosophy 69, no. 268 (April 1994): 135―50.

6. 뇌 표면에 깜빡이는 환상적인 밝은 불빛들

1913년 강의에서 인용, 이 강의내용은 책으로 출간되었다. Ivan Petrovich Pavlov, Lectures on Conditioned Reflexes: Twenty-Five Years of Objective Study of the Higher Nervous Activity

[Behavior] of Animals (London: Martin Lawrence, 1928), 222.

7. 뇌가 있기 전에는 색깔도 소리도 없었다.

Roger W. Sperry, from James Arthur Lecture on the Evolution of the Human Brain, 1964, p. 2.

8. 뇌는 2중 기관

Henry Maudsley, “The Double Brain,” Mind 14, no. 54 (1889): 161― 87.

9. 대뇌반구절제술을 받은 아이들

Susan Curtiss and Stella de Bode, “Language after Hemispherectomy,” Brain and Cognition 43, nos. 1― 3 (June― August 2000): 135― 38.

10. 좌반구를 제거하고도 유지되는 인지, 기억, 성격, 유머감각

P. Vining et al., “Why Would You Remove Half a Brain? The Outcome of 58 Children after Hemispherectomy— the Johns Hopkins Experience: 1968 to 1996,” Pediatrics 100 (August 1997): 163― 71. M. B. Pulsifer et al., “The Cognitive Outcome of Hemispherectomy in 71 Children,” Epilepsia 45, no. 3 (March 2004): 243― 54.

11. 성인의 대뇌반구절제술

McClelland III and R. E. Maxwell, “Hemispherectomy for Intractable Epilepsy in Adults: The First Reported Series,” Annals of Neurology 61, no. 4 (April 2007): 372― 76.

12. 반구 하나만 갖고 태어난 독일 소녀

Lars Muckli, Marcus J. Naumerd, and Wolf Singer, “ Bilateral Visual Field Maps in a Patient with Only One Hemisphere,” Proceedings of the National Academy of Sciences 106, no. 31 (August 4, 2009).

13. 마음의 사회

Marvin Minsky, The Society of Mind (New York: Simon and Schuster, 1988).

14. 뇌수술을 받던 여자아이의 웃음

Fay Evans-Martin, The Nervous System (New York: Chelsea House, 2005),

15. EEG를 활용한 운동피질 시간측정

Benjamin Libet, Mind Time: The Temporal Factor in Consciousness (Cambridge, MA: Harvard University Press, 2005).

actfirst
우리가 판단하기 전에 뇌가 먼저 명령을 내린다.

16. 뛰어난 공무원과 멍청한 대통령

Daniel C. Dennett, Freedom Evolves (New York: Viking, 2003).

17. 우리는 결정된 세상 속에 사는 책임있는 행위자.

Michael S. Gazzaniga, Who’s in Charge? Free Will and the Science of the Brain (New York: Ecco/ HarperCollins, 2011). 한국어판

18. 자유의지란 잘못된 인식이나 그럴듯해 보이는 경험일 뿐.

David Hume, An Enquiry Concerning Human Understanding (1765), 2nd ed., edited by Eric Steinberg (Indianapolis: Hackett, 1993). 한국어판

19. 우리는 전혀 자유롭지 않으며 필연성에 종속되어 있다.

Arthur Schopenhauer, The Wisdom of Life.

20. 삶의 어느 시점에서 우리가 할 수 있는 일은 하나뿐.

Arthur Schopenhauer, On the Freedom of the Will (1839).

21. 뇌 임플란트 수술과 정체성

정체성과 의식의 비슷한 문제에 대한 통찰력있고 흥미로운 실험에 대해서는 Martine Rothblatt, “The Terasem Mind Uploading Experiment,” International Journal of Machine Consciousness 4, no. 1 (2012): 141―58.을 참조하라. 이 논문에서 로스블래트는 “비디오인터뷰 데이터베이스와 그 사람에 대해 연상되는 정보”에 기초하여 사람을 모방한 소프트웨어를 이용해 정체성문제를 검토한다. 여기서 제안하는 미래의 실험에서 소프트웨어는 사람을 훌륭하게 모방한다.

22. 우리는 매달 완전히 새로운 사람으로 교체된다.

“How Do You Persist When Your Molecules Don’t?” Science and Consciousness Review 1, no. 1 (June 2004).