인공지능 회의론

    https://news.v.daum.net/v/20200127110016564

    형이상학의 역할이 중요하다. 존재란 무엇인가? 자아란 무엇인가? 타자란 무엇인가? 주체란 무엇인가? 자유의지란 무엇인가? 이 문제에 답하지 못하면 강인공지능은 없다. 이 문제에 대해서는 튜링테스트와 이를 디스하는 중국어방 문제를 참고하면 된다. 검색하면 나온다.

    걱정할 것은 없다. 구조론은 예의 형이상학적 질문들에 대해 죄다 답해놓고 있기 때문이다. 중요한 것은 구조론에서 다루는 위 핵심문제들을 손정의가 전혀 언급하지 않는다는 점이다. 일론 머스크는 하이퍼루프기술의 핵심이라 할 분기문제에 대해서는 전혀 언급하지를 않는다.

    인공지능은 될 만큼은 되고 안될 만큼 안 된다. 강인공지능은 구조론을 적용하지 않으면 안 되는 것이고, 약인공지능이라고 무시하면 안 된다. 어쩌면 약인공지능에 더 많은 기회가 있을 수도 있는 것이다. 강인공지능은 AI를 의사결정의 주체로 보고 약인공지능은 도구로 본다.

    주체는 확장된다는 점이 각별하다. 의미론과 구문론의 차이다. 주체는 문장의 의미를 알고 있다. 도구는 의미를 모르고 구문론으로 해결한다. 문법만으로 대충 때려잡는다. 기계가 의미를 알면 터미네이터의 스카이넷이 현실화 되므로 곤란해진다. 통제가능성 문제가 제기된다.

    의미를 알면 전략을 구사하고 자기를 확장하고 주변을 장악하고 권력을 휘두르고 거짓말을 하기 때문에 곤란해진다. 인간은 인공지능을 도구의 한계 안에 가둘 수 있다. 약인공지능만으로 완벽하게 통제하려면 도로나 신호등이나 여러 곳에 센서를 설치해야 한다. 보완할 수 있다.

    앞에 가는 차와 신호를 주고받으며 운행할 수 있다. 강인공지능은 인류의 지적한계에 따라 현재로는 비현실적이며 약인공지능이라도 도로와 신호등에 센서를 설치하는 등의 방법으로 강인공지능에 가깝게 무인운전을 실현할 수 있다. 여러 가지 보완장치를 써서 우회할 수 있다. 

    형이상학적 사유를 해보지 않은 사람과의 대화는 허무하다. 결론을 내리지 못하고 교착상태에 빠진다. 인류 역사를 보면 완벽한 도구를 만들려다가 실패한 사람도 많고 오히려 불완전한 도구를 잘 개량하여 성공한 사람도 많다. 세상은 상대가 있는 게임이므로 완벽할 수가 없다. 

    호랑이가 쫓아온다면 어떻게 할 것인가? 완벽한 대응은 호랑이를 죽이는 것이고 불완전한 대응은 동료보다 한 걸음 앞서가는 것이다. 라이더를 쓰는 구글은 완벽한 해결을 시도하다 좌초되었고 테슬라는 센서를 쓰는 꼼수로 나름 성공적으로 정착되었지만 신뢰성이 의심된다.

    과거 미국은 분사구 다섯 개짜리 강력한 새턴 로켓을 만들었고 소련은 기술이 안 되니까 분사구 40개를 묶어서 쓰다가 제어를 못 해서 망했는데 일론 머스크의 스페이스 엑스는 엔진 9개를 묶어서 과거 소련의 실패한 방법을 답습했지만 최신 컴퓨터의 정밀제어 덕분에 성공했다.

    기술이 발달하면 낡은 꼼수도 쓸만해 진다. 독소전에서 독일과 소련의 철학 차이가 이와 유사하다. 독일은 완벽한 하나를 만들려다가 대량생산을 못 해서 망했고 소련은 중간기술에 물량꼼수로 임기응변하여 제법 흥했다. 물론 미국은 핵폭탄이라는 완벽한 하나로 전쟁을 끝냈다. 

    완벽한 하나보다 중간기술을 대량투하 하는게 나을 수도 있다. 과거 필자는 애플의 IOS보다 구글의 안드로이드를 지지했다. 애플은 완벽하지만 폐쇄적이고 안드로이드는 결함이 있지만 개방적이다. 비유하면 애플은 독일군이고 구글은 소련군이다. 전쟁에서는 완벽하다가 진다.

    갑각류는 뼈가 겉으로 나와서 완벽하게 갑옷으로 무장하고 있고 포유류는 뼈가 속에 숨어서 살갗이 위험하게 노출되어 있다. 그러나 인류의 전쟁사는 언제나 포유류가 갑각류를 이겼다. 그리스의 팔랑크스 밀집대형은 완벽했지만 로마군은 30센티 단검으로 쉽게 이겨버렸다.

    꼼수를 썼는데 돌밭으로 유인해서 밀집대형이 걷지 못하게 만들어버린 것이다. 완벽한 군대는 완벽하게 망한다. 로마군 역시 완벽하게 대오를 갖추었다가 게르만족에게 털렸다. 게르만족은 갈리아족과 달리 로마군을 평원이 아닌 숲으로 유인했다. 빽빽한 나무 때문에 망했다.

    중국 역시 관구검이 방패를 든 방진을 앞세워 고구려군을 털었는데 흉노에게는 손쉽게 털렸다. 평원에서 회전을 하면 방진이 이기지만 지형을 옮겨 다니면 진다. 완벽한 부대가 완벽하게 망하는 사례는 역사에 무수하다. 완벽한 인공지능보다 불완전한 둘이 소통하는게 빠르다.

    PC통신과 인터넷의 차이다. PC통신은 중앙집중식이라 해킹될 염려가 없다. 여러모로 효율적이다. 그런데 안 된다. 분산식은 여러 위험에 노출되지만 점점 강해지는 특징이 있다. 완벽한 하나의 인공지능보다 분산된 여러 개의 센서를 묶어 쓰는게 전략적으로 유리한 것이다. 

    1) 기술에는 소재 기능 성능 효능 양식이라는 층이 있다.

    2) 층 사이에서 자리를 못 잡은 어중간한 중간기술은 망한다. 

    3) 안 되는 거 여럿보다 확실하게 되는거 하나에 집중하는게 낫다.

    4) 완벽한 기술 하나에 몰빵하기보다 중간기술 여럿을 묶어 쓰면 흥한다. 

    5) 여럿을 묶어 쓰려면 보다 높은 층위의 상부구조에 대응할 수 있어야 한다.

    구조론의 질 개념은 완벽한 한 명의 천재 지도자가 아니라 불완전한 여러 국회의원들의 긴밀한 상호작용이다. 완벽한 하나를 찾는 태도는 입자 개념에 매몰된 사고다. 완벽한 것은 그럴수록 환경의 변화에 취약하다. 강력한 군대는 전장의 지형을 바꾸면 손쉽게 제압되곤 한다.