글읽기
프로필 이미지
[레벨:30]id: 김동렬김동렬
read 2441 vote 0 2022.02.08 (18:54:10)

    수학은 첫 번째 문제에 막히면 두번째 문제도 풀 수 없다. 1+1을 모르는데 1+2는 알겠는가? 인간이 노력하지 않는 이유는 게을러서가 아니다. 대부분 노력 자체가 불가능하다. 노력을 했는데도 실패하는게 아니고 아예 노력을 해보지도 못한다. 노력은 힘을 쓰는 것이다. 힘을 쓰려면 지렛대가 있어야 한다. 수학은 첫 번째 문제를 지렛대로 삼아 두 번째 문제를 푼다. 시작부터 막히면 방법이 없다. 그렇다면 노력하는 사람은? 뭔가를 아는 사람이다. 지렛대를 가진 사람이다. 단서를 잡은 것이다.


    에디슨은 남들이 실패한 반제품 아이디어를 줏어와서 완성시키곤 했다. 남이 왼쪽에서 실패한 것을 오른쪽에서 성공시키는게 에디슨의 방법이다. 그에게는 다른 사람이 어느 지점에서 실패하는지 알아내는 재주가 있었다. 그것이 1퍼센트의 영감이 99퍼센트의 노력을 꿰어내는 단서가 된다. 구슬이 서말이라도 실이 없으면 꿸 수 없고, 노력이 서말이라도 영감이 없으면 발명에 착수할 수 없다.


    남이 하는 것을 가만히 지켜보고 있다가 그 반대로만 가도 성공확률은 크게 높아진다. 그런데 이 정도를 하는 사람도 사실 별로 없다. 대부분은 3개월 동안 같은 시각에, 같은 숫자의 병력을, 같은 코스로 축차투입하여 전멸당하는 뤼순전투에서의 일본군 장성처럼 공무원 행동을 한다.


    왼쪽이 아니면 오른쪽이다. 이정도만 알아도 제대로 된 인공지능을 만들 수 있다. 인류가 여태 제대로 된 인공지능을 만들지 못하는 이유는 방향이 틀렸기 때문이다. 가다가 길이 막히면 그냥 반대쪽으로 가보라고. 그걸 못하나? 바퀴벌레도 이 정도는 하는데 인간은 못한다. 단서를 잡아야 사유할 수 있다. 방향이 없기 때문에 방향을 바꾸지도 못한다.


    사유의 단서는 무엇인가? 사유의 첫 단추를 어디에 꿰어야 하는가? 인간이 제법 해낼 때도 있지만 단서가 주어져 있을 때의 일이다. 대부분 있는 것을 복제한다. 1이 있으면 2와 3을 만들기는 쉬운 것이다.


    인간은 도무지 생각이라는 것을 하지 않는다. 대신 자극하고 반응한다. 상호작용을 하는 것이다. 이게 잘못된 방향설정이다. 이 방향을 틀어야 인공지능을 성공시킬 수 있다. 외부의 자극에 의지하지 말고 자기 안에서 자극을 만들어내야 한다.


    외부에 받쳐주는 사람이 있으면 인간은 성과를 낸다. 경쟁이 붙으면 꽤 잘한다. 한 사람이 천장을 뚫으면 우르르 몰려간다. 심지어 먼저 성공한 사람의 정보가 새나가지 않아도 같은 것을 해낸다. 방향을 알았기 때문이다. 방향판단에서 반은 먹고 들어가는 셈이다. 누가 그것을 성공시킨 사실 자체가 단서다. 처음 하는 사람은 천신만고 끝에 겨우 하지만 두 번째 가는 사람은 뭐야? 그냥 서쪽으로 가기만 하면 되는 거였어. 신대륙의 발견이 이렇게 쉽다니 하고 첫 발견자를 깎아내린다.


    도구가 있어야 한다. 기본을 갖추어야 한다. 단서를 제공해야 한다. 단서는 링크다. 연결을 따라가는 것이다. 작은 원자에서 물질은 시작되고, 원론의 한 점에서 기하학은 시작되고, 작은 소실점에서 미술은 시작되고, 화음에서 음악은 시작되고, 의미에서 사유는 시작된다. 연결이 확산방향이면 가짜, 수렴방향이면 옳다.


    강희제는 독일의 시계를 잔뜩 선물받고도 그 의미를 깎아내렸다. 동양의 도덕이 중요하지 서양 잔재주가 무슨 쓸모가 있겠는가 하는 식이다. 그래도 그 내용을 비중있게 기술해 놓은 것을 보면 충격을 받은 것은 확실하다. 당장 어떻게 대처해야 할지 모르니 얼버무린 것이 전형적인 인지부조화다. 당장 독일에 기술자를 파견하자고 제안하는 신하는 없었던 것이다. 중국 기술자를 시켜 똑같은 것을 복제하게 하고는 그걸로 만족하여 그냥 흐지부지 했다. 그는 분명히 위기를 느꼈다. 비겁했던 거다.


    무지를 인정하지 않으면 지에 이를 수 없다. 방향이 틀렸음을 인정하지 않으면 길을 찾을 수 없다. 


프로필 이미지 [레벨:20]chowchow

2022.02.09 (10:52:06)

인공지능 영역에서 알파고와 챗봇는 알고리즘이 근본적으로 다릅니다. 알파고를 보면 알겠지만 이거 아니면 저거는 잘 합니다. 그러니깐 바둑을 두죠. 근데 언어는 전혀 이런 방법을 쓰지 않습니다. 인간의 패턴만을 익혀서 단답형으로만 대답하도록 하죠.


현재 챗봇이 기억력이 없다고 비판하시는데, 허무한 비판입니다. 애당초 그런 개념이 탑재돼있지도 않고든요. 실력이 모자란 게 아니라. 연구자들이 인간의 대화가 뭔지도 모르는데 가능할 리가. 지금 챗봇은 일종의 방정식을 푸는 겁니다. 입력이 주어지면 출력을 뽑죠. 질문이 주어지면 대답을 합니다. 끝. 번역기가 한글 넣어서 영어 뽑듯이 챗봇은 질문 넣어서 답변 뽑습니다. 번역기가 한문장 이전을 참고하지 않듯이 챗봇도 질문하나 이전을 참고하지 않습니다. 챗봇과 번역기가 거의 같은 알고리즘을 사용하거든요. 


챗봇은 바둑과 달리 시뮬레이션을 하지도 않습니다. 알파고는 매 수를 둘 때마다 시뮬레이션을 하는데 말이죠. 인간도 시뮬레이션을 하면서 대화를 하는데 말이죠. 시뮬레이션이 언어에 적용되기 어려운 게 대화는 바둑과 달리 이긴다는 개념이 불분명 하다고 생각하거든요. 바둑에 목표가 있듯이 대화에도 목표가 있는데, 바둑은 점수만 올리면 되지만 대화는 점수를 어떻게 올리지? 물론 잘 궁리하면 되겠지만.


그냥 바둑 두듯이 만들면 되는데 그걸 안 합니다. 과학자들이 이렇게 하는 데는 어떤 숨은 전제가 있을 겁니다.
1. 인간 언어행위가 뭔지를 잘 모른다.
2. 챗봇은 원래 그래야 한다고 생각한다.
3. 지능이 뭔지 자체를 모른다.
4. 경쟁과 협력이 어떤 맥락에서 구분되는지 모른다.
5. 정해진 게임만 하고, 게임을 만드는 개념이 없다.


이상하게 이 분야의 과학자들은 인공지능을 만들 때 인간이 직접 피드백 하며 훈련시키는 것을 상당히 꺼려합니다. 뭐랄까, 컴퓨터가 지들이 알아서 하는 게 인공지능이라고 생각하는 거 같아요. 철학자들이 개념 정립을 잘 해야 하는데, 제대로 정리된 게 없어서 공돌이 연구자들도 갈증을 느낍니다. 문제는 한국 사람이 말해주면 안 듣는다는 거. 솔직히 한국에는 인공지능을 제대로 만들만한 연구자가 없습니다. 전 세계를 꼽아도 5명 이내인데, 한국 사람은 여기에 없죠. 시중에 떠도는 인공지능이 붙은 마케팅은 100% 컨닝이라고 보면됩니다. 제가 5년여 동안 백수명과 대화를 해봤지만 말귀를 알아듣는 사람은 없었습니다.



Drop here!
프로필 이미지 [레벨:30]id: 김동렬김동렬

2022.02.09 (10:55:53)

큰 차이 없소.

짚신벌레도 지능이 있는데 

알파고는 지능이 있다는 증거를 발견할 수 없소.


알파고를 보면 알게 되는게 


자신이 어디에 두었는지 기억하고 있지 않다.

남이 어디에 둘 것인지 예측하고 있지 않다.

자신이 지금 우엇을 하고 있는지 모른다. 


전략이 없고 매 순간 새로 확률을 계산하는게 잘못된 거지요.

컴퓨터 자원을 너무 낭비하고 있다는 말씀.


구조론으로 보면 한가지 목표에 도달하는 데는 두 가지 방법이 있소.

그 중에서 항상 나쁜 것을 사용하는 것.


컴퓨터 자원을 최소화 하는데는 관심이 없는 것.

더 많은 컴퓨터를 돌리고 더 많은 계산을 하면 되는데?


인간의 뇌는 자원사용을 최소화 하게 되어 있습니다.

그게 지능이라는 거지요.


앵무새 머리에서 두뇌가 차지하는 면적이 완두콩알이라면

거기에서 소뇌를 비롯하여 신체나 감각 기억을 유지하는게 90퍼센트


머리를 굴리는데 들어가는 자원은 좁쌀이나 깨알 정도.

그런데 천재 앵무새는 가끔 같은 나이의 사람보다 뛰어납니다.


즉 인간은 깨알 정도의 지능만 있으면 5살 소년 정도의 분별력을 가질 수 있고

밥알 정도의 지능이 있으면 아이큐 200을 찍습니다.


그런데 인간 중에 왼쪽이 아니면 오른쪽을 할 수 있는 사람이 

많이 쳐줘서 지구에 1만명은 될까 싶지요.


자원 사용을 최소화 하는 쪽으로 방향을 틀어야 합니다.

지금은 한 개로 안 되면 두 개 이러고 있으니.


물량으로 이긴 것은 어거지고 

공정하게 하면 알파고는 이세돌을 못 이깁니다.


이세돌이 한 개를 시뮬레이션 할 때 알파고는 백만 번 이건 공정한게 아니지요. 

이세돌이 한 수를 검토할 때 알파고도 한 수를 검토하게 하면 백대 0으로 이세돌 승

프로필 이미지 [레벨:20]chowchow

2022.02.09 (11:28:27)

진술이 있으면 그것을 제한하는 어떤 전제를, 또 전제를.. 하면서 세계를 탐구해야 하는데, 그런 게 없는 게 가장 큰 문제. 뭐 인간도 잘 안 되지만. 말씀하신 에너지 효율도 어떤 전제입니다. 그것도 일종의 게임인 거죠. 그것보다 더 높은 게임도 있을 거고.
프로필 이미지 [레벨:20]chowchow

2022.02.09 (11:57:36)

알피고가 하는 시뮬레이션도 일종의 진술탐색입니다. 시뮬레이션은 내 자신을 나누어 대결해보는 겁니다. 그런 건 잘해요. 문제는 대다수 인간과 마찬가지로 알파고는 절대로 전제탐색을 하지 않습니다. 주어진 문제만 푼다는 거죠. 전제 탐색을 하면 질문하기 시작합니다. 추가 정보룰 얻을려고 하는 거죠. 그동안은 주어진 정보(문제)만으로 문제를 풀었으니깐. 인간도 전제탐색과 진술탐색에 균형이 있을 겁니다.
프로필 이미지 [레벨:27]오리

2022.02.09 (13:10:11)

사람들이 탁상용 계산기에 지적인 면이 있다고 생각 하지 않듯이
머신런닝 방식 AI는 상호작용과 예측이라는 요소가 빠져있어 사람들에게 지적으로 보이지 않는거 같습니다.
프로필 이미지 [레벨:30]id: 김동렬김동렬

2022.02.09 (13:18:25)

중요한건 본능적으로 이건 아니다 싶은게 느껴지지 않느냐지요.

소실점이 어긋나면 어색하잖아요. 


화음이 있는 서양의 풍성한 음악과 

화음이 없는 동양의 단조로운 음악을 비교하면 뭔가 


이건 아닌데 싶은 것.

딱 봐도 지능처럼 안 보인다는 거지요. 


낯선 사람을 만나면 가슴이 두근거리는 그런 것.

진짜 인공지능이 등장하면 바퀴벌레 수준만 되어도 인간은 크게 당황할 것입니다.


왜냐하면 인간이나 바퀴벌레나 지능은 큰 차이 없음.

시력이 좋고 언어가 있는 인간이 주변 자원을 더 많이 이용하는 것 뿐.

List of Articles
No. 제목 글쓴이 날짜sort 조회
6567 인간의 충격 김동렬 2023-11-26 1096
6566 짐 차노스와 일론 머스크 김동렬 2023-11-25 1294
6565 테크노 낙관주의 비판 1 김동렬 2023-11-24 1157
6564 백마 타고 오는 사람 1 김동렬 2023-11-24 1448
6563 전두환 11월에 죽다 1 김동렬 2023-11-23 1619
6562 중국 축구 수수께끼 풀렸다 1 김동렬 2023-11-23 1522
6561 클린스만 잘한다 김동렬 2023-11-23 1136
6560 의사결정 원리 김동렬 2023-11-22 1180
6559 한국인들에게 고함 1 김동렬 2023-11-22 1643
6558 허세의 종말 3 김동렬 2023-11-21 1608
6557 인류 최고의 발명 1 김동렬 2023-11-20 1761
6556 클린스만의 명암 김동렬 2023-11-20 1470
6555 시공간은 휘어지지 않는다 김동렬 2023-11-19 1354
6554 LG 구광모 회장 잘할까? 김동렬 2023-11-19 1351
6553 인간의 응답 김동렬 2023-11-16 1881
6552 재벌야구 실패 차명석 야구 성공 김동렬 2023-11-16 1713
6551 신의 진화 김동렬 2023-11-15 1461
6550 인요한님 맞을래요 김동렬 2023-11-14 2038
6549 염경엽 야구의 해악 김동렬 2023-11-14 1466
6548 슈뢰딩거의 고양이 3 김동렬 2023-11-13 1901