특이점에 대해 말하다. Michael Vassar and Michael Anissimov Talk About the Singularity on Supreme Master TV

진보적인 여러분 안녕하세요 수프림 마스터ＴＶ 황금시대 과학기술입니다 기술개발이 빠르게 진보하며 다가오는 미래에 인류가 더욱 강력한 인공지능을 만들 것 같습니다 인공지능은 의학，금융 로봇공학 발전 등 많은 분야에서 이용됩니다 이런 시스템들은 음성 인식과 문서작성 소프트웨어 게임，게임콘솔 자동차 조작과 다른 많은 곳에 사용됩니다 특이점 이론은 기계들이 인공지능들을 통해 완전히 스스로 배우고 개선하는 것이 가능한 미래를 상상합니다 이 이론은 기계들이 『초지능』 즉 인간을 뛰어넘는 지능을 가지며 결국 상상 이상의 기술적 전환을 일으킬 것을 생각합니다  가령 １９９７년 러시아의 게리 카스포로프 (사상 최고의 체스 챔피언)가 ＩＢＭ이 고안한 수퍼 컴퓨터인 딥블루와 ６게임을 치뤘습니다 게임이 끝나고 카스포로프 씨는 딥블루의 움직임에서 지능과 창조력을 보았다고 말했지요 특이점과 그 의미를 이해하기 위해 최근 미국의 비영리단체인 인공지능 특이점연구소 (ＳＩＡＩ) 마이클 바사르 소장과 마이클 애니시모브 홍보책임자를 인터뷰했습니다 연구소의 목적은 인류의 인공지능 개발을 돕는 것입니다 특이점은 신기술 생산 고리의 마지막입니다 역사적으로 인류는 신기술을 만든 후 이런 기술들을 사용해 더욱 최신기술을 발명했습니다 모든 것이 인간의 시간대에서 일어났지요 하지만 사람이 필요 없이 신기술을 생산할 수 있다면 이 과정은 인류를 초월한 시간대로 지속될 수 있으며 기술 잠재성의 절정기에 빨리 도달하거나 인류의 상상 이상 진보할 것입니다 우리에게 일 초가 짧으며 일 년이 약간 긴 시간이고 천 년은 상상못할 긴 시간입니다 하지만 진화에서 천 년은 순간이며 백만 년이 약간 긴 시간이며 십억 년이 상상 못할 긴 시간이 되지요 양자역학에서 １０의 ２０승의 １초가 짧고 １０의 １５승의 １초는 상당히 긴 시간이며 １／１００억 초는 너무나 긴 시간이지요 유명한 미래학자 발명가로 특이점을 조사하는 선도적 사상가들의 특이점 최고회의를 공동 설립했고 연구소 회원인 레이 커즈와일 씨는 또한 특이점에 관한 중요한 많은 책을 집필한 저자입니다  커즈와일 씨는 특이점으로 인해 과학과 기술이 곧 가속적으로 도약할 것이라고 굳게 믿으며 다음처럼 썼습니다 『２１세기에는 백 년의 진보를 경험하는 정도가 아닐 것입니다 오늘날의 속도로 ２만 년의 발전을 경험할 것입니다』 기술 특이점이란 개념은 많은 사람들에게서 유래하였으나 흔히 １９６５년 초지능 기계에 관한 수필을 쓴 어빙 존 굿을 시작으로 봅니다 그는 저명한 수학자였습니다 하지만 특이점이란 용어를 처음 사용한 것은 컴퓨터 과학자 버너 빈지로 블랙홀과 그 내부 모습을 우리의 물리학으로 묘사하기 불가능한 것을 비유적으로 표현하였지요 ２０００년 엘리저 유드코프스키와 브라이언 새빈 앳킨스가 진보된 자아발전형 인공지능의 안전한 개발을 위해 설립했지요, 기술이 더욱 강력해지며 사람들이 다른 인공지능 체계를 세우고 더욱 강한 인공지능 시스템을 만드는 게 쉬워졌습니다 조심스럽게 만든다면 그들은 세상에 있는 모든 것을 고칠 수 있어야 합니다 특이점 연구소는 인공지능의 장점에서 생긴 몇몇 윤리적 문제를 해결하고 의사결정이론에서 인공지능을 조사하여 실제 인공지능의 진보에 관해 기여하도록 설립되었습니다 또한 사람들에게 과학기술 분야의 토론장으로 그들이 하는 일을 논의하는 곳이지요 특이점 연구소는 기업이 아닌 비영리단체인데 미래를 １０년 ２０년 혹은 ３０년으로 보는 시간 개념 때문입니다  아니시모프씨께 특이점이 세상발전을 돕는 법을 물었지요 특이점은 인류에게 훌륭한 활동이 될 수 있어요 우린 ２０만 년간 존재한 같은 종족이기에 같은 수준의 지능에 갇혀 있습니다 특이점이란 개념은 전에 우리가 경험하지 못한 새 지성영역으로 확장시켜 우리 한계를 넘어설 겁니다 이런 지력으로 오늘날 문제를 해결하는데 더욱 효과적으로 도울 수 있다면 그 중요성이 강조될 것입니다  이 연구소 같은 단체들은 인류가치관을 인공지능에 넣는 방법을 분석합니다 잠시 후, 이 문제를 알아보겠습니다 수프림 마스터ＴＶ를 계속 시청해 주세요 오늘 황금시대 과학기술에선 특이점을 다루며 인공지능 특이점연구소의 마이클 애니시모프와 마이클 베사르 씨의 견해를 보내드립니다  우리가 특이점을 이야기할 때 잠재적으로 인류보다 더 총명하고 강력한 존재를 말하는 겁니다  인간수준의 인공지능 실현에 필요한 기억용량과 처리수준에 대해선 다양한 의견이 있습니다 많은 예측들이 『즉흥적』이며 이론일 뿐이지요 하지만 처리능력 면에서 초당 １０의 １７승의 운영이 대략 사람의 두뇌 속도로 생각됩니다 우리는 초당 약 수백 번을 작용하는 천억 개의 뉴런을 가졌으며 그것들이 한번에 꼭 작용할 필요는 없습니다 그래서 오늘날의 수퍼컴퓨터가 인간 수준의 인공지능으로 운영된다고 말할 수는 없죠 첫 비행기가 날기 위해 새처럼 복잡할 필요가 없듯이 첫 인공지능도 작용하기 위해 인간 두뇌처럼 복잡할 필요는 없을 것입니다  이런 미래의 초지능 기술이 어떻게 작용할까요？ 많은 분들이 로봇을 생각하지만 바사르 씨는 고차원의 인공지능 장비일 필요가 없다고 합니다  우리가 ＡＩ (인공지능)과 새로운 지능체계를 생각할 때 정보를 처리하는 어떤 형식이 주어져야 하지만 어떤 면이든 인간과 닮아야 할 특별한 이유는 없습니다 인간과 함께 일하길 원하지만 한동안 인간 같은 신체를 가진 너무 강력하지 않은 인공지능을 만드는 것이 더 편리할 수 있지요 인공지능을 만들지 않고 사람의 지능을 강화시키는 방법으로 특이점에 도달한다면 단기적으로는 인간이 기술과 결합하면서 더욱 똑똑해진 인간이 발달할 것이며 물론 인간의 모습이 될 것입니다 전문가 두 분께 특이점으로 인한 가능성과 특히 컴퓨터와 우리가 교류할 방법에 대해 물었습니다  많은 사람들이 생물학 기능 추적 장치를 쓰는 것과 같죠 안경이나 귀에 이식하거나 머리에 쓰는 장치로 정보를 전할 것입니다  탁상 컴퓨터에서 노트북 그리고 휴대전화로 변화는 지난 십여 년의 기술진보를 보여줍니다 특이점으로 옮겨가면서 제게 가장 흥미로운 개념은 컴퓨터가 배경으로 사라지는 겁니다 옷의 일부나 우리가 가진 물건의 일부가 되어 아주 미묘하며 심지어 벽에도 컴퓨터가 있어 우리 말을 듣고 명령을 따를 수 있습니다 특이점 따른 이런 초지능 기계에 인류 가치를 어떻게 저장할까요？ 인공지능을 개발하는 이유는 인류의식들을 돕고 강화하며 중재하는 겁니다 인류 의식은 우주가 가진 가장 중요한 것이며 우리가 아는 가장 중요한 것이지요 특이점으로 성공적 전환을 위해서는 인류 의식들이 주의 깊게 보존되어야 합니다 그러니 가치관을 공유할 기계들을 만들어야 하며 우리처럼 가치관을 존중해야 합니다  기계에 의식을 프로그램 하려면 기계에 넣으려는 기계에 넣으려는 운영정의를 내리고 세워야 합니다  기계가 가능한 많은 돈을 만들길 원하며 또한 의식을 가진다면 유용하겠지요 기계가 의식이 없다면 기계가 스스로 의식을 만들 것입니다 의식이 있고 의식이 돈을 버는 것을 방해하는데 돈을 버는 것만 신경 쓴다면 더이상 의식이 없는 것입니다 광범위한 목표와 우리가 관심 있는 의식 같은 것은 하위목표를 이루는 유용한 수단으로 될 수 있습니다  우리가 중요시하는 모든 의식으로 충만한 세상을 원합니다 인간 지능보다 똑똑한 기계가 인간 감정을 가질 수 있을까요？ 감정을 넣는다면 지각있는 존재로 정의할 수 있을까요？ 기계가 인간처럼 덕있게 행동하고자 감정을 가질 필요가 있는지는 명백하지 않아요 인류의 윤리전통은 정반대를 나타납니다 대부분 인류의 도덕전통은 감정을 조절하고 극복하며 신중한 태도로 행동할 것을 지지합니다  사람의 가치관이 감정과 관련되기에 감정의 이해는 중요하다고 생각합니다 하지만 초지능 기계가 감정을 갖는 게 필요하거나 바람직한 건 아닙니다 인간이 지각있는 존재로 분류된다면 인간과 똑같은 기계 역시 지각 있는 존재로 분류될 것이며 인간과 아주 비슷하지만 약간의 차이를 지닌 기계도 지각있는 존재로 분류될 겁니다 우리가 익숙한 방식의 지각이나 의식 없이 지능을 가지는 건 가능합니다 이미 사회에서 중요한 기능을 수행하는 많은 소프트웨어를 보았습니다 지각이 없고 의식도 없지만 지적인 일들을 수행합니다 장기적으론 지각있는 기계가 분명히 있을 것이며 『언제 기계에 지각이 있음을 알게 될까요？』는 흥미로운 질문이죠  미래의 인공지능과 특이점에 대한 견해를 말씀해주신 마이클 바사르와 마이클 아니시모프씨께 감사를 드립니다 다음주 금요일 황금시대 과학기술의 ２부에서 이 멋진 분야에 대해 계속 논의합니다 인공지능 특이점 연구소에 대한 자료는 다음을 방문하세요 총명한 여러분 오늘 방송을 함께 해주셔서 감사합니다 수프림 마스터 텔레비전에서 주목할 뉴스와 이어지는 고귀한 생활, 채식을 계속 시청해 주세요 모두가 훌륭하고 자애로운 생활로 빨리 바꾸길 바랍니다