토론실

https://youtu.be/YHPfPM4YKtg?t=354 



그런데 이상하다, 사람이 명령하기 전이라도 인공지능이 먼저 행동해야 하기 때문이다.

어떤 하인이 주인의 명령을 가만히 기다리고 있다고 하자.
그 하인은 그냥 가만히 있을 수 있을까?
인간에게 움직이지 않는 것은 그냥 아무것도 안 하는 게 아니라
아무것도 안 하는 것처럼 보이도록 움직이는 것이다.
조회 때 운동장에 가만히 서있을 때를 생각하면 이해가 될것.


기계라면 모터에 전원을 끄면 되지만
인간은 기본적으로 아이들이 걸려있는 기계이다.
마치 내연기관이 정차시에도 꺼지지 않고 연료를 소모하는 것처럼
사용하지 않는 배터리가 시간이 지나면 방전되는 것처럼
에너지가 계에 투입되면
설령 외부로 드러나지 않더라도 내부로는 계속 움직이며 에너지를 소모하는 게 정상인데
어떻게 이 인공지능은 주인이 명령하기 전까지는 가만히 기다릴 수 있는가?

이는 프로그래머가 그렇게 하도록 사전에 차단했기 때문.
이른바 지도하는 학습의 한계인데,
현재의 인공지능이 학습한다는 것은
보상을 최대화 한다는 것이며
보상의 최대는 곧 선생님이 정하는 것이며
그러므로 인공지능은 절대로 선생님을 넘지 못 한다.

이는 아직 이 인공지능이 지능이 아님을 보여준다.
지능은 학습과는 다르다.
동료를, 환경을 뛰어넘을 수 있어야 지능이다.
이는 기본적으로 경쟁을 해야한다는 말이며
설령 협력이라도 척력에 의한 인력과 같이 작동해야 한다는 말

결국 그냥 어떤 일을 할 수 있는 정도가 아니라

남보다 더 잘 할 수도 있어야 하는 것
청출어람이어야 하는데
그것을 가르친 사람만큼에서 머무는 게 지금 인공지능의 문제

이게 문제가 되는 이유는
자율주행과 같이 매우 위험한 상황을 미래의 인공지능이 컨트롤 해야 하기 때문
인간만큼만 하려고 하면 인간만큼도 못 하게 되는게
모든 알고리즘의 원리인데
이는 곧 확률과도 관련이 있다.

테슬라가 당장 자율주행을 출시하지 못하는 것은
인공지능이 다루는 확률 때문인데
인공지능은 확률적으로 잘 할 수도 있고
못 할 수도 있으며
이는 인간이 실수를 하는 것과 같은 맥락이다.

문제는 인공지능이 인간 보다 운전을 더 잘해야만 한다는 것이다.
나보다 운전을 못 하는 사람이 택시 운전을 하면
그 택시 못 타잖아.

결국 인공지능이 인간보다 압도적으로 더 잘해야 하며

이는 단순히 학습이 아니라 창의를 할 수 있는 가능성이 있어야 하며 그래야
인공지능에 의한 자율주행이 상용화 될 수 있다는 말이 된다.

사고날 때마다 일일히 가르쳐줄 수도 없고 말야.

인간에 의해 도로는 계속 진화하고 있고

범죄자의 수법도 진화하고

불법주정차 방법도 진화하는 마당에

인공지능이 학습만 해서 언제 따라잡냐고.

학습이 아니라 진화를 해야 진짜 지능이 된다.

Drop here!
List of Articles
No. 제목 글쓴이 날짜sort 조회
공지 구조론 매월 1만원 정기 후원 회원 모집 image 29 오리 2020-06-05 79881
2106 무량판 구조에서 펀칭 현상이 나타나는 이유 chow 2023-07-30 2293
2105 집을 사도 보수가 되지 않는 사람이나 조건이 있나요? 1 서단아 2023-07-19 2483
2104 장안생활 격주 목요 모임 image 1 오리 2023-07-19 1771
2103 폭력과 매력 사이에 형식이 있다 2 dksnow 2023-07-11 2944
2102 쓰레드 후기 레인3 2023-07-10 2507
2101 차별하는 본능 극복 2 서단아 2023-07-08 2572
2100 문명과 21세기 image dksnow 2023-07-08 2234
2099 최근 프랑스 시위를 보며 2 서단아 2023-07-06 2811
2098 장안생활 격주 목요 모임 image 오리 2023-07-05 2174
2097 코로나 시기 아이들의 정서적 공백, 사회성 공백 3 이상우 2023-06-28 3511
2096 구조론의 내부개념 SimplyRed 2023-06-28 2787
2095 장안생활 격주 목요모임 image 오리 2023-06-21 3517
2094 어느 새 바람에 알이랑 불어와 한을 곁에두고 날아가 최선최석규 2023-06-20 3581
2093 아이의 문제에 교사가 휘말릴 때 image 2 이상우 2023-06-13 4776
2092 장안생활 격주 목요모임- 출간 파티 image 7 오리 2023-06-07 5587
2091 개념없는 인공지능 image 2 chow 2023-06-05 5811
2090 대니얼 카너먼의 돌 1 chow 2023-06-03 5334
2089 국토학교를 소개합니다 수원나그네 2023-06-03 5330
2088 학교폭력예방법의 개정 방향 이상우 2023-05-30 5393
2087 장안생활 격주 목요모임 image 오리 2023-05-24 5883