이상한 점: 화성에서 온 공상과학 로봇이 현실 세계의 제한된 합리성을 만나다

외부 광물을 추가하더라도 로봇은 여전히 ​​Herb Simon이 확립한 인공 지능의 제한된 합리성 원칙을 따릅니다.

나는 Science Robotics 리뷰(@SciRobotics의 이미지 제공)에서 제한된 합리성을 다루었지만 여기에 몇 가지 세부 사항을 추가합니다.

웨스턴 트루 그릿(Western True Grit)이 마음에 드시나요? The Martian Chronicles와 같은 고전 공상 과학 소설이요? 어나일레이션(Annihilation) 같은 SF 호러? 스팀 펑크? 로봇은 어떻습니까? 위 질문 중 일부 또는 전부에 ‘예’라고 답했다면 Nathan Ballingrud의 The Strange가 당신을 위한 것입니다! 마음을 사로잡는 책이다. 그리고 보너스로, 이는 제한된 합리성의 현실 세계 원리를 보여주는 훌륭한 예입니다.

우선 책 이야기부터 해보자. The Strange는 Ray Bradbury의 The Martian Chronicles를 연상시키는 1930년대 경 화성에 있는 미국 남부 연합의 반사실적 식민지를 배경으로 합니다. 식민지는 엔진이라고 불리는 Steam Punk 로봇의 지능과 감각을 증폭시키는 녹색 광물인 Strange를 채굴하여 돈을 벌고 있습니다. 행성은 인간의 생명을 지탱할 수 있지만 조건이 취약하고 식민지가 자립할 수 있음에도 불구하고 지구와의 모든 통신이 아무 이유 없이 갑자기 중단되었으며 이제 장기적인 생존이 의심스럽습니다. 소설의 주인공은 Charles Portis의 고전 서부 소설 True Grit에서 바로 튀어나온 유쾌하고 솔직하고 여과되지 않은 13세 여주인공 Annabel Crisp입니다. 그녀와 부모님이 운영하는 작은 식당의 식기세척기인 왓슨은 도난당한 재산을 되찾고 수많은 잘못을 바로잡기 위해 위험한 여행을 떠납니다. 그 과정에서 그들은 점점 더 비우호적인 인간과 엔진을 마주하게 됩니다.

그것은 차이나 메이빌의 새롭고 기이한 것과 서부의 서부가 결합된 것입니다.

실제로.

The Strange가 다른 공포 소설과 다른 점은 엔진(및 인간)이 본질적인 능력을 초과하지 않고 오히려 광석이 기존 능력에 집중하거나 집중한다는 것입니다. 인간의 경우 그것은 성격의 가장 깊은 측면을 증폭시키고, 겁쟁이는 겁쟁이가 되는 데 더 똑똑해지고, 지구로 돌아가기로 결심한 사람은 전례 없는 극단적인 조치를 취하게 됩니다. 그러나 인간은 자신이 할 수 없는 일은 아무것도 하지 않을 것이다. 로봇의 경우 성격의 겉치레와 자연어를 통한 대화 능력을 추가하지만 모터는 여전히 물리적 능력과 소프트웨어의 본질적인 기능에 의해 제한됩니다.

이 소설은 인공 지능과 제한된 합리성의 중요한 실제 개념을 간접적으로 설명합니다.

하나는 로봇 공학의 지능이 설계된 작업에 적응한다는 것입니다. 대중은 모든 작업이나 작업 영역에 보편적으로 적용할 수 있는 범용 일반 인공지능을 가정하는 반면, 로봇공학은 특정 작업을 수행하는 데 필요한 지능 형태의 개발에 중점을 둡니다. 예를 들어, 공장 로봇은 사람이 기능을 수행하는 방식을 모방(및 개선)하는 방법을 배워야 할 수 있지만 소피아처럼 사회에서 인공 지능의 역할을 대중에게 알릴 필요는 없습니다. 또 다른 중요한 차이점은 공공이 지능(지능, 경험), 민감성(감정, 자기 인식), 자율성(과제나 임무를 실행하는 방식에 적응하는 능력), 주도성(행동하는 능력)이라는 네 가지 관련되어 있지만 별개의 개념을 결합하는 경우가 많다는 것입니다. 작업이나 임무가 실행되는 방식을 수정합니다. 또는 목표를 달성하기 위해 작업이나 임무를 폐기합니다. 공상 과학 소설에서 로봇은 이 네 가지를 모두 가질 수 있지만 실제 생활에서는 일반적으로 지능이 매우 제한적이고 지각력이 없으며 설계된 작업에 국한된 자율성 및 주도권이 없습니다.

이러한 개념은 노벨 경제학상 수상자이자 인공 지능 분야의 창시자인 Herb Simon이 1950년대에 처음 제안한 더 넓은 아이디어, 즉 제한된 합리성이라는 아이디어에 적합합니다. 제한된 합리성은 인간이든 기계이든 모든 의사 결정 주체가 컴퓨팅 리소스(IQ, 컴퓨터 하드웨어 등), 시간 및 정보(너무 많거나 적음)에 따라 제한을 받는다고 말합니다. AI와 로봇의 경우 한계에는 알고리즘, 즉 핵심 프로그래밍이 포함됩니다. IQ가 높은 인간이라도 피곤하거나 배고프거나 잘못된 정보를 얻거나 스트레스를 받을 때 어리석은 결정을 내립니다. 그리고 아무리 지능이 뛰어나더라도 타고난 능력의 한계 안에 머물러 있습니다. 오직 소설에서만 사람들이 갑자기 타고난 능력을 뛰어넘는데, 그러기 위해서는 대개 방사성 거미에 물린 것과 같은 일이 필요합니다.

현실 세계의 로봇이 갑자기 더 똑똑해지면 어떻게 될까요? 그들은 작업에 집착하여 인간을 완전히 무시하고 로봇이 작업을 수행하는 동안 인간을 다치게 하거나 심지어 죽일 수도 있습니까? 일종의 OSHA 위반입니까? Robopocalypse에 설명된 수많은 방법 중 하나로 그들이 우리를 사냥하고 죽일까요? 아니면 옛날 우편배달부의 온화한 매력으로 재고, 식사, 의약품을 배달할 것인가? 의료 및 개인교습 로봇의 사회적 조작이 진정으로 민감하고 배려하게 될까요?

제한된 합리성은 그것이 우리에게 달려 있다고 말합니다. 로봇은 하드웨어와 상황의 한계 내에서 프로그래밍된 모든 작업을 수행합니다. 물론, 그게 문제입니다. 우리의 프로그래밍은 불완전하고 결과를 예측하는 데 어려움을 겪습니다. 그러나 지금은 낯선 사람이 화성에 있더라도 호기심과 인내는 계속해서 나아갈 것입니다. 그리고 NASA에 큰 소리를 지르십시오. 그들이 지금보다 어떻게 더 잘 일할 수 있을지 상상하기 어렵습니다.

The Strange의 사본을 선택하세요. 정말 잘 읽었습니다. Herb Simon의 인공 과학 외에도. 그리고 내 책도 잊지 마세요! SF의 제한된 합리성에 대해 더 자세히 알아볼 수 있는 내 교과서 AI 로봇 공학 소개 및 공상 과학 소설을 통해 로봇이 어떻게 로봇 공학에서 작동하는지 설명하고 Asimov의 I, Robotic Stories를 통해 인간과 로봇 간의 상호 작용과 AI를 배우는 방법을 설명합니다.