자유 게시판

사건을 모르고 장기적 관점을 이해하지 못하면 생기는 참사


1543081570640.jpg


프로필 이미지 [레벨:13]kilian

2018.11.29 (04:09:04)

실제 지능(동물 포함)의 경우 보상은 생존, 벌칙은 멸종이겠죠?

프로필 이미지 [레벨:20]챠우

2018.11.29 (13:50:17)

보상은 어느 관점에서 보느냐에 따라서 정의가 달라질 수 있습니다. 생존과 멸종이라는 프레임은 내가 대결하는 상대를 적으로 간주할 때 만들어집니다. 보통은 세계대전과 같은 전쟁을 '악'으로 치부하지만, 전 전쟁을 상호작용이라고 이해합니다. 다만 인간의 수준이 떨어져 몸으로 의사소통을 한 거죠. 


학급에서 친구와 싸우고 나면 이상하게 더 친근감이 느껴지는 이유입니다. 대화가 없었고, 그래서 오해를 했고, 치고받는 과정에서 소통을 하고나면 상대를 이해할 수 있게 됩니다. 애들 싸움이나 어른 싸움이나 연인 싸움이나 모든 싸움의 본질은 소통입니다. 다만 싸움이라고 이름을 잘못 지어서 헷갈림을 유발한 겁니다. 


한편 보상이라는 말도 부적절하기는 마찬가지입니다. 보상은 목적과 관련이 있습니다. 현재 인공지능을 연구하는 사람들이 인공지능에게 동기를 부여하는 방법으로 보상을 제시하는데, 그래서 나온 결과가 저렇습니다. 자연스럽게 인공지능이 단기전을 수행하게 됩니다. 그러나 연구자들은 이를 알고리즘을 개선하는 방법으로 해결하려고 하므로 개선이 없습니다. 


기껏해야 바둑을 두는 알파고입니다. 인공지능이 아니라 '게임'이나 '사건'을 제대로 이해하지 못한 연구자부터 개선해야 하는 문제인 거지요. 제가 제목에서 '인간이나 인공지능이나 거기서 거기'라고 말한 이유는 사건의 관점이 없는 인간과 인공지능이 눈앞의 이득 혹은 사물만을 좇아 단기전을 수행하는 것을 지적하고자 함입니다. 기술이 아니라 철학의 문제입니다.

프로필 이미지 [레벨:13]kilian

2018.12.01 (04:53:24)

장기전 단기전도 시간의 개념이 아니고 싸이클의 개념이 적용되어야 할 것 같습니다...생물의 경우 1세대의 싸이클이나 한 번의 전생에 몇 총에서 몇십년의 걸리겠지만, 인공지능이나 알고리즘의 경우에는 같은 시간에 무수히 많은 싸이클이나 전쟁, 경쟁을 치뤄볼 수 있겠지요. 이런 관점에서 보면 선악과 같은 도덕개념은 별다른 의미가 없겠고, 결국 동렬님께서 말씀하신 것처럼 돈을 따는 것이 보상이 아니고,  이긴 플레이어 만이 다음 판에 참가할 수 있다는 보상 아닌 자격이 생긴다는 논리로 볼 수도 있지 않을까요?

------------------------------------------------------------------------ 재미삼아...

- 팬케이크의 경우 : 보상을 체공시간에서 난이도 또는 참신성 등으로 변경

- 이미지 : 제가 이해 불가

- 버섯 : 학습순서에 대한 패턴학습을 금지시킴

- 소닉 : 버그 발견시 신고하면 보상, 신고없이 이용하면 벌칙 부과

- 자율주행차 : 거리 개념을 주행거리가 아닌 이동거리(좌표 변경에 의한)로 변경

- 상자들기 : 자율주행차와 비슷한 논리

- 미니타우러 : 드리블에 대한 정의 자체가 없었음

- 로드러너 :  자살과 패배가 어떻게 차이가 나는지 이해가 안됨

- 전략시뮬레이션 :  오류를 발생시키면 캐릭터도 없어지는 것으로 처리

- 테트리스 : 일지정지 시간에 한계를 둠(무한한 일시정지 불가)

- 블록 옮기기 : 역시 옮긴다는 정의가 불확실 했던듯...

- 달리기 : '빠르게' 보다는 '적의 공격을 회피하기 쉽게' 도는 '먹잇감 잡기에 유리' 등 '빠르게'를 달성하기 위해서 키를 키우는 전략이 유리한 점도 있지만 동시에 불리한 점도 생기도록 조정.

프로필 이미지 [레벨:20]챠우

2018.12.01 (11:51:33)

이긴다, 경쟁, 장/단기전, 닫힌계는 모두 관련이 있는 말들입니다. 이긴다는 것은 경쟁한다는 것이며 경쟁한다는 것은 계가 있다는 것이며 계가 있다는 것은 경쟁의 구도가 있다는 것이며 장기냐 단기냐 하는 것은 경쟁의 구도를 어디에 두느냐, 즉 계를 정하는 문제입니다.

보통 인공지능을 설계할 때는 양으로 측정 가능하도록 합니다. 이미 망한거죠. 말씀하신대로 양보다는 질이며 질의 측정은 보상과 같은 양이 아닌 계의 성립으로 규정되어야 자연의 결과 맞습니다.
List of Articles
No. 제목 글쓴이 날짜 조회
5012 약국 마스크 문제 1 레인3 2020-03-09 1425
5011 책주문 배송문의 3 풍풍파 2020-03-09 1228
5010 치약 내부가 섞이지 않는 이유 4 이금재. 2020-03-08 2243
5009 이재명 10 시선 2020-03-07 1996
5008 전태일 50주기 으뜸 구호 시민 공모 수피아 2020-03-05 1187
5007 구조론 목요모임(장안동, 필수인력) image 오리 2020-03-05 1502
5006 이단? 해안 2020-03-05 1247
5005 입국제한-금지국가들 수출입제한 1 펄잼 2020-03-03 1532
5004 마스크 구하기의 현실 1 레인3 2020-03-03 1358
5003 311 사회적 거리두기 운동 스마일 2020-03-02 1914
5002 누구 말이 맞을까?(알루미늄 로워암) 2 이금재. 2020-03-01 2730
5001 귀화외국인에 대한 투표권 6 펄잼 2020-02-29 2227
5000 구조론과 벡터 image 2 이금재. 2020-02-28 1569
4999 탄핵청원 역시나 매크로구나 image 승민이 2020-02-27 1774
4998 구조론 목요모임(장안동, 필수인력) image 오리 2020-02-27 1367
4997 문재인 대통령 탄핵 반대 청원 5 슈에 2020-02-26 1742
4996 <종교는 예술처럼> '속리산 법주사' 관련하여 쓴 글입니다. 아란도 2020-02-26 1308
4995 (정보) 이사준비할 때 알아둬야 할 팁 10가지 image 좌뇌의둔화 2020-02-25 1614
4994 면적의 구조론적 의미 image 5 이금재. 2020-02-25 2011
4993 공유합니다 6 고향은 2020-02-24 1578