시사방

chatGPT의 한계 [유튜브]

원문기사 URL : https://youtu.be/EZsehMaQ4AM 
프로필 이미지
chow  2023.02.14
최근 구글의 바드라는 알고리즘이 잠깐 시연했다가 질문에 틀리게 답변하는 바람에 구글의 모기업 알파벳의 주가가 상당히 떨어졌다고 합니다. 이 문제를 해결할 방법을 과학자들도 아예 찾지 못하고 있는데, 이를 팩트 인용의 문제라고 합니다. 

인간이 데이터 정제를 해서 양질의 정보를 넣어주면 팩트 문제가 해결된다?
> 안 된다. 팩트는 특정한 관점으로 해석되는 것이다. 애당초 맥락이 없다고 가정하고 학습된 데이터이므로 양질의 정보가 정의상으로 무의미하다. 양질의 정보는 맥락이 들어가고 그 맥락을 규정하는 챗봇의 정의부터 시작되는 것이다. 그게 없으면 무슨 수를 쓰더라도 팩트 문제는 원천적으로 해결이 불가능하다. 

인종, 성 차별등 각종 헤이트스피치 문제는 필터링으로 해결된다?
> 안 된다. 이미 온라인 상에 파훼법을 만든 용자가 나타났다. 필터링 등으로 질문을 걸러도 문제인게, 방어할 수록 챗봇의 말수가 점점 적어지는 현상이 나타나고 있다. 당연한 것이다. 대응식 챗봇은 질문을 자세하게 할 수록 답변이 구체적으로 나오도록 되어 있는데, 질문의 양을 줄이니 답변이 제대로 나올 수가 없다. 맥락의 문제는 필터링으로 해결되는 것이 아니다. 

질문을 자세하게 할 수록 답변이 좋아진다. 질문을 잘하면 문제가 해결되는 거 아닌가?
> 개떡 같이 말해도 찰떡 같이 답할 수 있어야 한다. 선제 질문을 하지 않는 게 근본적인 문제이다. 이건 설계 철학의 차이가 있다. 현 chatGPT는 일회성 답변에 최적화되어 있다. 이는 이루다와 정확히 같은 방법으로 알고리즘이 구성되어 있기 때문이다. 대응만 하게 되어 있다. 핑퐁핑퐁으로 대화를 주고받으려면 질문자가 지속적으로 머리를 짜내야 한다. 그것은 질문으로 맥락을 구체화 하여 챗봇이 학습한 통계를 필터링하는 것이다. 
이는 챗봇이 맥락을 구분하지 않고 학습했다는 것을 의미한다. 뒤집어 보면 맥락을 학습시키고 동기를 형성하면 챗봇이 선제질문을 하게 될 것임을 알 수 있다. 그러려면 너와 나 그리고 사건이 정의되어야 한다.


공포의 지진

원문기사 URL : https://v.daum.net/v/20230213171727353 
프로필 이미지
김동렬  2023.02.13
엄청나네요.

프로필 이미지 [레벨:30]id: 김동렬김동렬   2023.02.13.
프로필 이미지 [레벨:5]윤민   2023.02.13.
와.....
프로필 이미지 [레벨:28]오리   2023.02.14.

월미도 디스코 팡팡 이네

프로필 이미지 [레벨:22]이상우   2023.02.14.

왼쪽의 도로는 멀쩡한데 오른쪽 땅이 들썩거리니...

 



민주주의와 자본주의 무시

원문기사 URL : https://www.donga.com/news/Society/artic...17859577/1 
프로필 이미지
스마일  2023.02.13

현대사회를 운용하는 두축은 민주주의와 자본주의이다.

이 두축을 무시하는 집단은 누구인가?

공정과 상식이라는 캐치프레이즈로 당선되고도

공정과 상식을 무시하는 집단은 누구인가?

그러면서도 당당하게 사사건건 국민 뒷목을 잡게하는 집단은 누구인가?




홍콩의 죽음

원문기사 URL : https://v.daum.net/v/20230213172201513 
프로필 이미지
김동렬  2023.02.13

중국이 스스로 뽑아버린 눈알



이상한 한국인들

원문기사 URL : https://tv.kakao.com/channel/3443434/cliplink/435769277 
프로필 이미지
김동렬  2023.02.13

한국인이 세계에서 음식을 제일 잘 먹습니다.

중국인은 음식을 잘 못 먹습니다. 일단 찬 것을 안 먹습니다. 몸에 해롭다는 생각.

한 여름에도 더운 보이차를 마셔버려. 아이스 아메리카노? 안 먹어. 


중국인이 안 먹는 것은? 1, 날것, 2. 찬것 3, 국물(석회암 때문에 몸에 해롭다고 안 먹음) 4. 생선회와 육회

요즘은 아이스 아메리카노를 먹기 시작했다고 하지만 원래 안 먹음. 

아이스크림은 20년에 5퍼센트가 먹었는데 작년에는 20퍼센트로 수직 상승.


일본인은 육류를 안 먹음. 전통적으로 반찬을 별로 안 먹음.


프랑스인은 국물을 안 먹음. 빈민들이 양을 불려 먹는게 국물이라고 주장. 실상은 석회암 때문인듯


영국인은 아예 요리를 안 함(집에서 빵을 구울 수 없음, 다층건물에 사는데 서민은 19세기까지 집에 부엌이 없음)


게르만족.. 영국과 비슷.. 원래 요리를 하지 않고 그냥 먹음.


세계 대부분의 나라.. 석회암 때문에 국물을 안 먹음


국물을 먹는 나라 한국과 일본



그게 컨트롤이 잘 안 된다니깐

원문기사 URL : https://v.daum.net/v/20230213153507139 
프로필 이미지
chow  2023.02.13

관점이 없으면 챗GPT도 장난감일뿐

그 팩트가 원하는 팩트가 잘 안 되는 거죠. 

관점이 없다고 믿는 정보이기 때문에.

언어에 관점이 있는데

언어로 이루어진 정보에 관점이 없을리 없잖아요.

중국이 기술력이 모자란 게 아니라

중국이나 미국이나 할 것 없이

철학이 없는 게 문제


챗봇은 그 데이터가 되는 정보를 온라인에 많이 올리는 놈의 의견을 통계적으로 더욱 반영하도록 되어 있는데

데이터 통제하려고 했더니 체크해야 할 데이터 페이지가 억단위

개떼 중국도 그건 못 하지. 

데이터 통제는 입력단에서 하는 거고

알고리즘 통제는 과정에서 하는 건데

입력단을 통제할 수 없는데

중간에서 어떻게 해볼 수 있는 게 아닙니다.

무개념(관점) 이루다도 데이터로 앗뜨거 한 번 했었고만.



약올리는 일본

원문기사 URL : https://v.daum.net/v/20230213171104141 
프로필 이미지
김동렬  2023.02.13

멕이는거냐?



어수록한 모텔주인

원문기사 URL : https://v.daum.net/v/20230213145411501 
프로필 이미지
김동렬  2023.02.13

도대체 이런 초딩 네다바이 수법에 속다니. 

다리 저는 70노인이 젊은이나 할 드론촬영 일을 한다는 것도 이상하고

자동차도 없이 걸어다니는 것도 이상하고.. 자동차 있다면 CC 카메라에 번호판 찍히지

요즘 누가 현금으로 식당 밥값 내냐.. 카드 없는 것도 이상하고

삼성 페이나 카카오 페이도 없냐?

직원이 와서 숙박비 계산한다는 것도 이상하고

명함이나 신분확인 수단이 있을텐데.. 인터넷으로 조회가 되는게 정상.. 확인 안 되는 것도 이상하고

라면 먹는 것도 이상하고



팩트에 대한 환상 [유튜브]

원문기사 URL : https://youtu.be/7Q32Tnt2wkU 
프로필 이미지
chow  2023.02.13

이전에 지적했듯이 chatGPT는 실제로 써보면 팩트가 상당히 틀리는 걸 알 수 있습니다.

또한 이전에 많은 사람들이 팩트체크를 하는 알고리즘을 만드려고 했으나

어디에서도 그럴듯한 게 나왔다는 소식이 없는 걸 보면

이 문제는 기술이 아니라 철학이나 인문학의 문제라는 걸 알 수 있습니다. 


사람들은 가치중립적인 팩트가 있다고 생각하고 체크를 하려고 하지만

그게 될 리가 있나. 

양자역학을 조금만 공부해보면 모든 정보에는 관점이 있다는 것을 알게 됩니다.

영상에서는 자기편의 입맛에 맞는 팩트를 믿으려는 사람들을 비판하지만

그게 이상한게 아니라 원래 팩트는 엿가락이 맞습니다.

자신의 행동과 차이가 나면 생각을 비틀어버리는 게 인간인데

자신이 속한 집단의 방향과 맞으면

개뼉다구라도 팩트가 되는 게 당연한 거죠.


우리는 인공지능이 가치중립적이길 바라지만

가치중립을 선언하는 기자나 검사가 내용을 왜곡하기 이전에

기사와 기소를 선택할 때 왜곡을 하듯이

당연히 인공지능도 가치중립적이지 않습니다.

한때 포털의 뉴스편향이 문제가 됐을 때 

인공지능 알고리즘을 썼기 때문에 가치중립적이라는 개소리를 네이버와 다음이 했었는데

그럴 리가 있나. 알고리즘은 중립적이지만

학습 대상인 데이터의 선택이 중립적이지 않은데, 장난하는 것도 아니고.


그러므로 오히려 진보에 적극적으로 가치를 두는 알고리즘, 인공지능을 만드는 게 맞습니다.

즉 진보의 관점으로 뉴스의 가치와 팩트를 해석해야 한다는 겁니다.

사용자와 같은 관점을 가지는 것도 좋겠지만

내가 트럼프와 2찍들을 도와줄 리가 없잖아요.

알고리즘은 데이터에 관점이 없다고 치고 만드는 것보다는

관점이 있다고 만드는 게 불확정성을 줄이게 됩니다.

왜냐하면 원래 있는 빈칸을 없다고 하면

그 빈칸만큼이 숨은 변수가 되어

알고리즘의 복잡성 또는 정보엔트로피가 지수적으로 늘어나기 때문입니다.


인공지능의 경우에도 세상에 대한 뚜렷한 자기 입장

즉 자아가 없는 게 문제인데,

chatGPT도 같은 문제를 가지고 있습니다.

그래서 동기를 갖게 하는 게 필요하죠.

인간의 동기는 세계관과 자아의 성립에서 생기기 때문입니다.

선입견 없이는 아무것도 볼 수 없듯이

관점 없이는 그 어떤 정보도 해석이 불가능합니다.

관점이 곧 통계학의 1을 의미하기 때문입니다.


강화학습에서 이걸 제대로 설명을 안 해서

전술(policy)이 왜 그렇게 이상하게 해석이 되는지를 

연구자들이 이해하기 어려운 건 덤입니다.

전술이 곧 관점이자 통계의 1이며 계이며

환경에 대한 에이전트의 태도입니다.


프로필 이미지 [레벨:30]id: 김동렬김동렬   2023.02.13.

트럼프 현상을 

팩트 문제로 좁혀서 보는 것은 아주 잘못된 것입니다.

사람들이 트럼프의 거짓말에 속았다거나 

혹은 편향된 사고에 빠져 트럼프를 의심하지 않았다고 여긴다면 착각입니다.

진실을 말하면 대중이 지식권력에 대항한 것입니다. 

가짜뉴스에 속은게 아니라 가짜뉴스를 필요로 한 것입니다. 

예컨대 광주항쟁과 같은 상황에서 

광주시민들이 유언비어에 속았다고 조중동은 말하고 싶겠지만

때려죽일 전두환 일당들에게 맞서는 무기가 된다면 가짜뉴스라도 필요하다는게 진실입니다.

무기가 된다면 가짜도 환영이라는 거지요. 

대중이 왜 지식권력에 저항하는가 이러한 본질을 봐야 합니다. 

권력이니까 당연히 저항하는 거지요.

군인의 지배에 저항하는게 당연하다면 지식의 지배에 저항하는 것도 당연합니다.

그럼 무식의 지배는 좋냐? 

제가 관찰해 본 결과 외부 경쟁자가 없으면 

백 퍼센트 그렇게 가는게 인간이라는 동물입니다.

인간은 지식의 지배, 도덕의 지배, 합리성의 지배를 좋아하지 않습니다.

발등에 불이 떨어져야만 지식과 도덕을 찾습니다.



살해냐 실종이냐

원문기사 URL : https://v.daum.net/v/20230213154002281 
프로필 이미지
김동렬  2023.02.13

지금이라도 비행기 타라. 살고 싶다면.

용의 똥꼬를 본 자는 죽는다는 법칙 모르냐?



그래서 김건희는?

원문기사 URL : https://v.daum.net/v/20230213141614962 
프로필 이미지
김동렬  2023.02.13

굥조 삼충신 


1) 기생 충

2) 기생 중권

3) 기생 이중대

굥조 사역신 


1) 효수 준석

2) 효수 경원

3) 효수 철수

4) 효수 승민



엎어진 물

원문기사 URL : https://v.daum.net/v/20230213111500693 
프로필 이미지
김동렬  2023.02.13

주워담아봐.



아이는 아이지

원문기사 URL : https://v.daum.net/v/20230212085342386 
프로필 이미지
김동렬  2023.02.13

그냥 아이일 뿐 DNA와 무슨 상관.

감정적인 문제는 개인이 알아서 해결할 문제.


사랑이니 결혼이니 하는 것은 운명을 받아들인다는 약속인데

유리한 것만 골라먹을 생각이라면 결혼을 왜 하냐?



영웅은 있다

원문기사 URL : https://v.daum.net/v/20230213060208177 
프로필 이미지
김동렬  2023.02.13

인류 모두가 본받아야 합니다.

언젠가 지진이 난다는 사실을 뻔히 알면서 

내 임기만 피하면 돼 식의 도박을 하는 에르도굥의 무리




정신병자인가

원문기사 URL : https://v.daum.net/v/20230213071336030 
프로필 이미지
chow  2023.02.13

괴상하다 괴상해.
김건희 따라하기인가?

뒤에서 누가 안았는줄



사악한 기레기

원문기사 URL : https://v.daum.net/v/20230213070513920 
프로필 이미지
김동렬  2023.02.13

왜구가 약탈한 장물이라는 거냐? 언어가 당당하지 않아. 약탈범죄와 거래는 공소시효가 없다네.



외계인 같은 소리 하고 있네.

원문기사 URL : https://v.daum.net/v/20230213101610162 
프로필 이미지
김동렬  2023.02.13

밥통들 어휴



정의당의 타락

원문기사 URL : https://v.daum.net/v/20230212203319012 
프로필 이미지
김동렬  2023.02.13

진중권이 진보를 아작내는구나.



일하지마라는 명령

원문기사 URL : https://v.daum.net/v/20230213060312196 
프로필 이미지
김동렬  2023.02.13

사극에서 무수히 보아온 막장



굥아

원문기사 URL : https://v.daum.net/v/20230213080016711 
프로필 이미지
김동렬  2023.02.13

국민이 너 싫대