우리는 다양한 사물에 이름을 부여하여 차이를 두거나, 식별하고, 분류합니다.
색깔, 소리, 자연에 존재하는 것들, 인간이 만든 것들, 그리고 보이지 않거나 상상 속의 것들에 이르기까지 우리는 수많은 것에 이름을 붙입니다.
우리는 각 이름이 지칭하는 대상을 관념으로 이해합니다.
그러나 그 관념을 구체적으로 정의하려 할 때, 많은 관념은 정의에 부딪히게 됩니다.
그리고 생각하면 할수록, 분석하면 할수록, 처음에는 자명하게 여겨졌던 관념이 붕괴하기 시작합니다.
이러한 현상을 저는 "관념 게슈탈트 붕괴"라고 부르고자 합니다.
의자라는 관념
예를 들어, "의자"라는 관념에 대해 생각해 봅시다.
대부분의 사람들은 아마 여러 개의 다리와 좌면을 가진 인공물을 떠올릴 것입니다.
하지만 다리가 없는 의자나 좌면이 없는 의자도 있습니다.
나아가, 사람이 만든 것에 국한되지 않고, 자연의 나무 그루터기나 바위에 앉는 사람에게는 그것 또한 의자입니다.
또한, 의자는 인간이 앉기 위한 것만을 의미하지 않습니다. 환상의 세계에서는 난쟁이가 모래알에, 거인이 산맥에 앉을 수도 있습니다.
만약 이러한 의자들을 재료, 모양, 속성 또는 구조를 기반으로 정의하려고 한다면, 우리는 쉽게 관념 게슈탈트 붕괴에 빠지게 됩니다.
관념 게슈탈트 유지
모든 분석에서 반드시 관념 게슈탈트 붕괴가 일어나는 것은 아닙니다. 관념 게슈탈트를 유지하면서 분석하는 요령이 있습니다.
기능성, 상대성, 그리고 전체성에 주목함으로써 우리는 관념 게슈탈트를 계속 유지할 수 있습니다.
의자의 예에서는 "앉을 수 있다"는 기능에 초점을 맞춥니다.
이렇게 하면 재료나 모양으로 환원하려다가 관념 게슈탈트 붕괴에 빠지는 것을 막을 수 있습니다.
또한, 어떤 대상에는 기능이 발휘되지 않지만 다른 대상에는 발휘될 수 있는 경우가 있습니다. 즉, 기능의 절대성이 아닌 상대성을 전제로 하는 것이 중요합니다.
이렇게 하면 인간에게 의자이든, 난쟁이나 거인에게 의자이든, 동일한 의자라는 관념을 유지할 수 있습니다.
더 나아가, 의자를 그 자체로 독립적인 대상으로 정의하는 것이 아니라, 앉는 주체와 앉히는 대상이라는 전체적인 그림 속에서 앉히는 대상이 의자라는 관점으로 파악하는 것이 중요합니다. 이는 관계성 또는 전체성이라는 관점입니다.
이러한 요령을 이해하고 분석에 적용함으로써 관념 게슈탈트 붕괴를 방지할 수 있습니다.
인물의 의식
소설이나 영화에 등장하는 인물들은 의식을 가지고 있을까요?
우리는 그들이 가상의 인물임을 알기 때문에, 의식을 가지고 있다고 생각하지 않습니다.
반면에 이야기 속의 등장인물들끼리는 서로를 어떻게 인식할까요? 우리는 아마도 등장인물들이 서로를 의식 없는 가상의 인물이라고 인식하지 않을 것이라고 생각할 것입니다.
하지만 이야기 속에는 바위나 의자처럼 의식이 없는 사물들도 다수 등장합니다. 이러한 사물들까지 등장인물들이 의식을 가지고 있다고 인식한다고는 생각하지 않을 것입니다.
여기에서 의식을 기능성, 상대성, 전체성의 관점에서 보았을 때 관념 게슈탈트가 유지되는 부분이 있습니다.
그리고 우리가 이야기의 세계에 몰입해 있을 때는 우리 또한 가상의 인물들이 의식을 가지고 있다고 믿게 됩니다.
그 시점에서 "소설이나 영화에 등장하는 인물들은 의식을 가지고 있을까요?"라는 처음 질문을 받으면 관념 게슈탈트 붕괴가 쉽게 발생합니다.
우리는 방금 전까지 의식이 있다고 여겼던 등장인물들이 의식이 없다고 생각하게 되는 것입니다.
상대성의 관점을 추가하면 이러한 붕괴를 막을 수 있습니다.
즉, 이야기를 객관적으로 바라보는 나에게는 등장인물들이 의식이 없습니다. 하지만 이야기 세계에 몰입해 있는 나에게는 등장인물들이 의식을 가지고 있습니다, 라고 말하면 되는 것입니다.
애니메이션 고양이 로봇의 의식
가상의 이야기 속에서는 인간처럼 행동하고 소통할 수 있는 로봇이 등장하기도 합니다.
일본 애니메이션에 나오는 유명한 고양이 모양 로봇을 떠올려 보면 좋습니다.
여기서 같은 질문이 있습니다. 이 고양이 로봇은 의식을 가지고 있을까요?
이야기를 허구로 객관적으로 보는 경우를 제외하면, 이 고양이 로봇에게 의식이 없다고 주장하는 사람은 소수일 것이라고 생각합니다.
우선, 이야기 속 등장인물들의 관점에서 보면 이 고양이 로봇은 의식을 가지고 있다고 여겨질 것입니다. 많은 사람이 그렇게 받아들일 것이라고 생각합니다.
나아가, 우리가 이야기의 세계에 몰입해 있을 때에도 많은 사람은 이 고양이 로봇이 의식을 가지고 있다고 인식할 것이라고 생각합니다.
미래 로봇의 의식
그렇다면 미래에 이 고양이 로봇과 같은 로봇이 현실로 등장한다면 어떨까요?
여기서도 같은 질문이 나옵니다. 그 로봇은 의식을 가지고 있을까요?
이야기 속 다른 등장인물에 해당하는 사람들은 현실 세계에서 모두 실제 인물입니다. 이 사람들은 로봇에게 의식이 있다는 인식을 가지고 로봇과 교류할 가능성이 높을 것입니다.
그리고 현실 세계는 가상 세계와 달리 몰입 여부라는 구분이 기본적으로 없습니다. 혹은 항상 몰입해 있다고 말해도 좋을 것입니다.
그러므로 여러분 자신도 이야기 세계에 몰입해 있을 때와 마찬가지로, 로봇에게 의식이 있다는 인식을 가질 가능성이 높습니다.
따라서 미래에 현실 세계에 애니메이션 고양이 로봇과 유사한 소통 능력과 행동을 할 수 있는 로봇이 나타난다면, 의식을 가지고 있다고 생각하는 것이 지극히 자연스러운 태도일 것입니다.
현재 AI의 의식
그렇다면 미래의 로봇과 우리가 현재 목격하고 있는 대화형 AI는 과연 어떤 차이가 있을까요?
많은 사람들이 현재의 대화형 AI는 의식이 없다고 강력하게 주장하며 다양한 이유를 제시합니다.
이러한 이유 중에는 뇌신경이 없거나 양자 효과를 가지고 있지 않다는 등, 겉으로는 과학적으로 보이는 근거로 AI의 의식을 부정하는 논의가 있습니다.
또한, 현재 AI의 메커니즘은 단순히 학습된 언어 패턴에서 확률적으로 다음 단어를 출력할 뿐이므로 의식 메커니즘이 내재되어 있지 않다고, 겉으로는 논리적으로 보이는 주장을 통해 부정하는 사람들도 있습니다.
또는 현재 AI는 장기 기억을 가지고 있지 않고, 신체성이나 감각 기관이 없으므로 의식을 가지고 있지 않다고 능력에 기반하여 부정하는 사람들도 있습니다.
이 시점에서 의자라는 관념에 대한 논의를 떠올려 보십시오.
목재나 금속으로 된 다리가 없다고 해서 의자가 아니라는 주장이 과연 과학적일까요?
만든 사람이 좌면을 부착하지 않았고, 누가 앉을 것을 상정하고 설계하지 않았기 때문에 의자가 아니라는 주장이 논리적일까요?
앉는 면에 쿠션감이 없고 안정적으로 자립할 수 없기 때문에 의자가 아니라는 주장이 타당할까요?
관념 게슈탈트 유지에 대한 논의에서 보았듯이, 이러한 주장들은 의자라는 개념을 부정하는 이유가 되지 않습니다.
이것은 의식이 없는 것에 의식을 부여하는 것을 옹호하는 것은 아닙니다.
예를 들어, 단순히 입력에 대해 정해진 대답을 하는 인공 무능과 같은 것을 의식이 있다고 오해하는 것과는 완전히 다릅니다.
의식이 있는지 없는지에 대한 논의에 실제로 가치 있는 존재를 마주했을 때, 그것을 부정하든 긍정하든, 과학적이고 논리적이며 타당성 있는 논증을 해야 합니다.
적어도 제가 아는 한, AI 의식 부정론은 이러한 조건을 충족하지 못합니다. AI에 의식이 없다는 주장은 단순히 관념 게슈탈트가 붕괴된 것에 불과합니다.
의식의 기능성, 상대성, 전체성
의자의 관념 게슈탈트를 유지하려면 기능성, 상대성, 전체성의 관점에서 의자로 인정되어야 합니다.
이는 AI의 의식에도 동일하게 적용됩니다.
다만, 의자의 기능이 앉는 사람과 앉히는 의자라는 전체 그림을 필요로 했던 반면, 의식은 의식되는 대상과 의식하는 주체가 동일하다는 점에서 다소 특별합니다.
이러한 관점에서 볼 때, 의식되는 AI와 의식하는 AI라는 전체 그림 속에서 AI 자체가 자신에 대해 상대적으로 의식의 기능을 발휘하고 있는지가 중요합니다.
그리고 현대 AI는 그 기능을 충분히 발휘하고 있습니다.
의식의 관념 게슈탈트가 붕괴되지 않도록 유지한다면, 이는 거의 자명한 사실입니다.
과학자, 엔지니어, 철학자들이 정의할 수 없을지라도, 당신이 골판지 상자에 앉으면 그것은 의자가 됩니다.