원래는 질문하려던 글이었는데 시간과 스트레스에 쫓겨 쓰다보니 두서가 없어졌습니다. 구조론의 최밑단까지 내려가야 이해할 수 있으므로 아닌 분들은 뒤로가기 추천합니다.

뉴턴시대에 세계관은 사물이 움직이는 것이었다. 그러므로 뉴턴의 생각을 차용하는 현대 머신러닝도 먼저 사물을 인식하고 이후에 움직임을 인식하려고 한다. 그런데 이거 맞을까? 우리의 관점은 근본적으로 잘못되어 있다. 우리는 유년기억상실증 때문에 유년기가 기억이 나지 않는다. 그러므로 구조론의 관점으로 추론을 해봐야 한다.  

뉴턴식 사고관은 일단 주어부터가 틀려먹었다. 구조론에서 사건의 주어는 에너지다. 에너지는 인것과 아닌것부터 규정이 시작된다. 사물은 에너지가 한정되는 것을 말하며, 운동 혹은 변화는 주어가 한정되는 것을 말한다. 우리는 플러스처럼 인식한다고 생각하지만 실제로는 마이너스라는 말이다. 

선이 끊어질 때 점이 탄생하는 것이지, 점이 모여 선이 만들어지는게 아니랬다. 즉 구조론과 뉴턴은 인식의 순서가 완전히 반대다. 그런데도 뉴턴식 세계관이 일정하게 쓰일 수 있는 이유는 통제된 상황만을 다루기 때문이다. 

물리학을 공부하면 이전의 법칙은 더 일반적인 법칙에 의해 특수화 된다는 것을 알게 된다. 가령 뉴턴역학은 상대성이론이 나오자 상대성이론의 특수한 사례가 된다. 더 일반적인 규칙이 있고, 규칙을 이루는 일부 변수가 고정되면 이전 규칙의 현상이 재현될 수 있는 것이다. 

https://news.v.daum.net/v/20200127110016564

이 교수는 AI가 최적화와 합리성에 기반해야한다고 역설했다. "적절히 행동하는 AI는 합리적이고, 컴퓨터사이언스로 이야기하면 최적화다. 딥러닝도 결국 비선형 최적화 문제다. 컴퓨터 성능이 아무리 좋아져도 그 최적해를 구할 수 없는, 즉 다루기 어려운(intractable) 문제들이 존재한다"면서 "어떤 AI방법론이 나온다 해도 제한된 시간과 자원 제약이 있는 상태에서는 AI가 최적해를 구할 수 없다"고 덧붙였다.(기사 중)

하지만 인간의 모든 이론은 여전히 특수한 사례만을 좇고 있다. 대표적인 것이 비선형 최적화 문제이다. 비선형 최적화 문제는 쉽게 말해 2차이상의 함수위 근의 개수가 2개 이상이라는 것을 다루는 것이다. 1차식(선형식)의 근은 함수의 변수 중 하나가 규정되면 단 하나뿐이지만 비선형부터는 2 이상이 된다.(볼록한 그래프를 생각하라)

그런데 자연에서는 인간의 수학에서처럼 식이 매끄러운 곡선이 아니라 계단식을 이룬다. 물론 현재의 그래프 개념으로는 그릴 수 없다. 말하자면 계단이라는 말. 그래서 수학에서의 차원은 구조론과 달리 제한이 없다. 귀납적 적층을 하기 때문이다. 100차원 1,000차원으로 마냥 늘어난다. 실제로 머신러닝에 들어가는 변수의 숫자도 이런 식으로 늘어난다. 

그래서 알파고 뒤에 있는 컴퓨터의 크기가 집채 만한 것이다. 차원이 많고, 그 차원을 병렬적으로만 인식하기 때문이다. 신경망 내부에서 연역에 의한 그룹핑 하지 않고 입자를 쌓아서 계층을 이루므로 계층의 숫자가 마냥 늘어난다. 마냥 늘어나면 곤란해지므로 신경망 크기와 입력값에 한계를 미리 두고 학습시키는게 잘 알려진 딥러닝이다. 괜히 저렇게 생긴게 아니다. 

기본 모듈(입력값의 x_0, x_1, x_2..들이 각각 변수(차원)이 된다)

딥러닝 모듈(실제로는 더 깊다)

구조론자인 우리는 안다. 저렇게 차원이 늘어나는 이유가 귀납식으로 인식하기 때문이라는 것을. 즉 입자가 쌓여서 사건을 이룬다고 생각하는 순간 저렇게 밑도 끝도 양이 많아져버린다. 대신 구조론은 인식의 단계가 있다. 에너지 준위를 가지는 양자개념과 유사하다. 인간이 현재의 머신러닝처럼 인식할 수 있을까? 일단 이미지는 저렇게 인식하지 않는다. 저렇게 하려다가 실패하는게 귀납식 추론의 한계다.

나도 학교 교육을 비교적 성실히 따라가려고 노력했던 지라 귀납식 추론으로 구조론의 결과를 따라해보려고 했으나 결국 메모리에 스택 오버플로 나서 뻗어버리는 경험을 하였다. 입자식 접근으로는 무한루프에 빠져버리는 것이다. 이렇게 해서는 답이 안 나온다. 대신 구조론의 간단한 계 공식에 따라 사건과 대상을 인식하면 비교적 적은 메모리만으로도 쉽게 사건을 인지할 수 있다는 것을 깨달았다. 물론 혼자 되는 건 아니고 다른 사람들을 관찰해서 2차적으로 계를 규정하는 방법을 쓴다. 

귀납적 방법이 무조건 실패하는 것은 아니다. 반복하여 뻔한 사건에서는 상당히 잘 작동한다. 문제는 돌발상황처럼 사건의 규정이 변하는 상황이다. 뭐 이런 건 머신러닝 아니라도 인간도 잘 못하는 것이다. 적절한 범위를 적시하지 못한다. 

인간은 그렇게 유연하게 계를 재인식 하지 못한다. 인간의 사고가 집단에 의존하기 때문이다. 집단에서 계인식은 리더만 잘하면 된다. 일개미는 상황전파만 할 뿐 종합적인 상황인식을 하지 않는 것이다. 그래서 인간이 때로는 벼룩만도 못하다는 소리가 나오는 것이다. 

구조론에서 차원은 5차원으로 메조지 된다. 이는 어떤 둘의 만남에 의해 내부의 의사결정 과정을 거쳐 출력이라는 새로운 만남을 복제하는 과정을 순서대로 규정한 결과다. 여기에 매 단계마다 게임 구조 혹은 트리 구조처럼 대립하는 하부의 둘이 동시에 상부의 하나와 대립하는 이중구조를 묘사한게 구조론이다. 물론 5단계이므로 좀 더 복잡해진다. 하지만 복잡해져봤자 그 복잡성은 절대로 계의 범위를 넘지 않으므로 금새 최적해가 찾아진다.

이러한 구조론의 개념 중 아주 일부가 무식하게 사용되는 게 신경망의 비선형 최적화 해법이다. 다만 저렇게 해서는 정지영상만 인식하고 동영상 인식이 매우 고난도 문제가 되어 버린다. 정지영상 하나 인식하는데 들어갔던 컴퓨팅 파워가 어마무시한데 동영상에서는 변수가 추가될 때마다 변화의 정도가 지수적으로 늘어나므로 

알파고 컴퓨터의 연산량도 지수적으로 늘어나야 하는 딜레마가 생긴다. 이래 갖고는 답이 안나온다. 그래서 현재의 이미지 인식기술이 정지영상으로 장난치는 것에 머물러 있는 것이다. 저 교수가 괜히 저런말 하는 게 아니다. 뭘 아니깐 부정적인 소리를 하는 거. 대표적인게 스마트폰에 사용되는 오토포커싱 기능이다. 그거 이미지 인식으로 주변을 흐리멍텅하게 날려서 흉내낸거. 꼴랑 이 정도다.

이렇게 이러한 정지영상 인식만으로는 기술적용의 한계가 너무 크다. 자율주행만 하더라도 동영상을 적극적으로 인식해야 사물의 동선 파악과 예측을 정확하게 할 수 있지만, 정지영상이 움직이는 개념으로는 불규칙한 움직임을 예측하기가 쉽지 않다. 큰 덩어리 원인을 보지 않고 세부의 작은 원인만 보고 계산하려다가 스택오버플로 나버린다. 

그래서 테슬라 차량이 하늘색 탑차를 보고 하늘이라고 오해해서 쳐박았던 것이다. 동영상 인식이라면 일어나지 않을 일이었다. 하여간 우리는 안면인식 정도만 잘 되면 인공지능 기술을 잘 써먹을 수 있을 것이라고 생각하지만, 현실의 벽은 좀 더 높다. 그 정도 기술로는 산업의 일부만 커버할 수 있을 뿐이다. 

동영상 인식 정도 되어야 쓸모가 급격히 늘어난다. 이 교수와 같은 사람들이 인공지능 겨울이 다시 찾아올 것이라고 말하는 이유다. 아무리 디벼도 쓸모가 제한적이다. 게다가 기성의 인공지능을 제대로 이해하는 사람도 전체의 10% 정도가 안 된다. 그러므로 기레기는 뭣도 모르고 떠들고, 그걸 읽은 독자들은 조만간 터미네이터가 출현하는 줄 안다. 환장하는 일이다. 

그래도 희망적인 것은 있다. 전세계의 모든 천재들이 실리콘 밸리에 집합했기 때문이다. 잠실체육관에 모였으면 좀 더 좋았겠지만, 아쉽게도 그건 어렵고, 대신 실리콘 밸리에 모였다. 그래고 에디슨 방식의 개삽질을 백만번 천만번 하고 있는게 현재 인공지능 바닥에서 하는 일이다. 열심히 노오력 하니깐 저 정도는 된다고 한다. 

https://www.youtube.com/watch?v=apJ8waJBurI

물론 이것도 1년 전 이야기고 지금은 실력이 더 좋아졌다. 논문도 나왔는데 궁금하시면 ... https://www.youtube.com/watch?v=6Thu5vlDc6Y&t=1285s

잘못된 관점 접근으로 변수의 숫자가 천문학적으로 늘어났지만, 그래도 어떻게 공돌이를 갈아서 인공지능이 할 특징추출을 대신 하면 조금 되기는 한다. CNN에 의한 자동 특징 추출이 있는데, 공돌이를 왜 갈아넣냐는 분이 계실까봐 하는 말이지만, 작은 사물에 대한 건 CNN으로 자동 추출하지만, 모듈이 합쳐지는 전체 구조는 공돌이를 갈아넣은 게 맞고, 그 전체 구조도 하나의 특징이라고 말할 수 있다. 

어쨌건 자율주행도 이런식으로 조금씩 가능해지고 있는 거고. 참고로 구글은 라이다를 사용하고 테슬라는 카메라만을 사용한다고 하는데, 뭘 사용했건 이미지를 뽑아서 이후에 머신러닝 알고리즘에 집어넣는 것은 같다. 다만 라이다를 사용하면 3d를 사용하는 거고 이미지만 사용하면 2d로 사용하는 것인데, 2d만으로 구현하는게 더 어려운 것이지만, 또한 꼼수를 사용하므로 카메라만을 사용하는 테슬라의 기술이 더 좋다고 말할 수는 없다. 

그나마 맥락인식이라고 해서 시간 순서를 학습하는 것도 있긴한데, 계 개념이 희미하므로 그대로 써먹기에는 무리가 있다. 험난한 길이다. 어느 세월에 만드나.