토론실 - "우리가 신이다"

"우리가 신이다"

국궁진력

read 1281 vote 0 2024.08.08 (11:26:52)

https://gujoron.com/xe/1628416

꾸준한 구조론 사이트 방문자이자 설익은 구조론 연구자로써 엊그제 Lex Friman의 일론 머스크의 대담을 보고 생각이 꼬리에 꼬리를 무는 중에 갑자기 떠오른 깨달음(?)이랄까 화두인데, 주장이 스스로 생각해도 너무 광오하여 여기에 올려 고견들을 구해보고자 합니다. 가능한 직설적/단선적으로 생각을 전개해 보겠습니다. (대담 내용은 댓글에)

우리가 신이다

100년이든 아님 좀 더 먼 미래면 인류는 사실상 신의 능력과 비슷하게 될 수 있다. 아니 될 것이다. 그런 확신이 지금 있다면, 지금 우리는 미래에 신이 될 존재들이다. 결국 우리가 신이다. 그저 우리가 아직 그 사실을 깨닫지 못하고 있을 뿐. 비유컨대 아이 신(올챙이 )이 어른 신(개구리)이 될때까지 자기가 신인 줄 모르는 거. 그렇다고 현재의 우리가 신이 아닌 게 아니다.

자유의지:

신이 진짜 있다면 우주가 신일 것이다. 아니면 우주는 최소한 신의 일부일 것이다. 즉 우리가 한 것은 우리의 자유의지라고 하지만 그 자유의지의 판단을 내릴 수 있는 우주 안에 우리는 신의 일부이다. 그래서 자유의지가 있다는 말은 신이 신 맘대로 하겠다는 말이다.

이게 제대로 된 깨달음인지, 아님 구조론 들나들며 혼자 생각하다 엇길로 나간건지 현재의 저로썬 구분할 수 없네요.

어떤 의견도 경청하겠습니다.

프린트

2024.08.08 (11:29:23)

https://www.facebook.com/syp.sypark/posts/8182922918432623?ref=embed_post

<한 사람의 굳은 의지 3>

유명 팟캐스터이자 컴퓨터 과학자인 렉스프리드먼이 뉴럴링크에 대해 장장 8시간 37분짜리 유튜브 클립을 올렸다.

https://www.youtube.com/watch?v=Kbk9BiPhm7o&t=5324s...

먼저 일론머스크를 1시간 반 정도 인터뷰하고 그 이후에는 뉴럴링크의 Co-founder이자 자랑스러운 한국인 DJ Seo를 비롯해 뉴럴링크의 멤버들 및 뉴럴링크를 첫 이식받은 사람의 인터뷰가 이어진다.

우선 일론머스크의 인터뷰 내용을 빠짐없이 요약해보았다.

간단하게나마 느낀점은 아래와 같다.

- 모든 수치가 머리속에 있구나

- 궁금하면 직접 다 해보는구나

- 밑에 직원들은 죽을맛이겠구나

인간의 목소리와 손가락 타이핑 속도로는 기계를 이길 수 없겠다는 생각에, 뇌에다 직접 칩을 박아야 겠다는 그의 아이디어가 어떻게 실현되어 가고 있는지 알 수 있다.

그는 진짜, 정말, 진심으로 인간을 화성으로 보내 인류를 다행성 종족으로 만들고 싶어하고 있고, 그 시점까지 인간 문명이 사라질까봐 한국을 예로 들며 진심으로 출산율을 걱정하고 있다.

뉴럴링크에 대한 현재 상황부터 AGI에 대한 생각, 옵티머스 로봇, 문명의 흥망성쇠에 대한 견해에 이어 기승전한국의출산율 걱정으로 끝난 그의 인터뷰 내용을 즐겨보시길 바란다.

아마도 인류는 한 사람의 굳은 의지에 등떠밀려 반강제로 지구를 떠나게 될지도 모른다.

1. 뉴럴링크는 두번째 인간에게 이식했다. 400개의 전극으로 연결되어 있고 매우 잘 작동하고 있음. 올해 말까지 8명을 추가해서 총 10명에게 이식하는것이 목표이다. 규제 승인을 받는것이 관건이 될것

2. 뉴럴링크는 앞으로 엄청난 발전이 있을것. 전극수를 크게 늘리고, 신호처리를 개선할것이다. 첫번째 이식 환자인 놀란의 경우 전극의 10~15%만 동작시켰는데도 세계 기록의 두배인 초당 비트 수(BPS)를 달성했다. 5년쯤 후에는 초당. 메가비트, 즉. 인간이 타이핑이나 말로 소통할 수 있는것보다 훨씬 빠른 속도에 도달할 수 있을것이다.

3. 의사소통의 속도를 늦추면, 예를들어 정상속도의 1/10으로만 말할 수 있다면 고통스러울 것이다. 이제는 정상보다 10배, 100배, 1000배 빠르고 명확하게 의사소통 하게 될것이다. 난 팟캐스트를 기본 1.5배속으로 듣는다. 1.5배속이 익숙해지면 1배속은 고통스럽게 느껴진다.

4. 10개의 단순한 단어로 표현해야 할것을 단 하나의 단어로 전달할 수 있다면 10배의 압축률을 얻는것. 밈도 그렇다. 밈은 일종의 데이터 압축이다. 단어나 단순한 그림보다 더 빠르게 이해하게 된다.

하루는 86,400초이지만 인간은 하루에 86,400개의 비트를 전달하지는 않는다. 그래서 24시간 평균으로 보면 초당 1비트 미만이다. 꽤 느린것임.

5. 뉴럴링크의 장기적인 목표는 의사소통의 대역폭을 넓혀 AI와 인간 공생을 개선하는것이다. AI와의 시나리오에서도, AI는 당신이 몇 마디 말을 내뱉기를 기다리며 지루해 할 것이라고 생각해야 한다. AI가 초당 테라비트로 통신할 수 있는데 인간인 당신은 초당 비트로 통신한다면, 그건 나무와 대화하는것 같을 것이다.

6. 뇌는 원시적인 요소를 다루는 변연계와 생각하고 계획하는 부분인 피질로 나눌 수 있다. 대뇌 피질은 변연계보다 훨신 더 똑똑하지만 대부분 변연계를 행복하게 만들기 위해 봉사한다.

사람들이 섹스를 시도하기위에 쏟아붇는 연산량은 어마어마 하다. 여기에 휴대폰, 노트북, 아이패드 등의 컴퓨팅 기기들이 3차 레이어로 씌워진다. 성관계 면에서도 틴더같은 앱들을 필두로 엄청난 양의 디지털 연산이 이루어지고 있는것.

7. 엄청난 연산이 인간의 변연계를 행복하게 만드는데 쓰여진다는것을 넘어서 나에게는 고차원적인 목표들이 있다. 삶의 의미나 우주의 본질을 이해하는것. 이것이 바로 xAI와 Grok의 사명이다.

8. 우리의 두번째 제품은 Blindsight라고 부르는데, 완전히 시력을 잃은 사람들이 볼 수 있게 도와주는것이다. 두 눈이나 시신경을 잃었거나 전혀 볼 수 없는 사람들의 시각 피질의 뉴런을 직접 자극함으로써 볼 수 있게 하는것.

아마도 조현병을 해결할 수도 있을것이다. 특정 종류의 발작이 있는 사람들도 해결할 수 있을 것이다.

9. 처음의 몇년은 정말 기본적인 신경학적 손상을 해결하는데 집중해왔다. 예를 들어 스티븐 호킹처럼 뇌에서 신체로의 연결이 완전히 또는 거의 손실된 사람들에게 뉴럴링크는 믿을 수 없이 중요한것이 될것이다. 스티븐 호킹이 우리가 지금 대화하는 것만큼 빠르게, 어쩌면 더 빠르게 의사소통할 수 있다고 상상해보라.

10. . 우리는 단순히 정상적인 인간과 동등한 의사소통 데이터 속도를 제공하는 것을 목표로 하지 않는다. 사지마비나 뇌와 신체 사이의 연결이 완전히 손실된 사람들에게 정상적인 인간을 능가하는 의사소통 데이터 속도를 제공하는 것을 목표로 한다. 사람들에게 초능력을 주자는 것이다.

11. 시력 회복의 경우도 마찬가지이다. 처음에는 저 해상도일것이다. 얼마나 많은 뉴런을 자극할 수 있는지에 따라 다르기 때문. 뉴런 사이의 전기장을 조정하고 패턴으로 만들어 10,000개의 전극으로 효과적으로 100만 픽셀이나 1000만 픽셀을 만들 수 있음. 시간이 지나면서 인간의 눈보다 더 높은 해상도를 얻을 수 있고 다른 파장도 볼 수 있을것임

12. 뉴럴링크는 실제로 범용 입출력 장치이다. 사람이 평생 경험한 모든 것, 냄새, 감정, 이 모든것들이 전기신호임. 전체 삶의 경험이 뉴런의 전기신호로 치환된다는것이 이상하게 들릴 수 있지만, 모든 증거가 그렇다는걸 보여주고 있다.

13. 따라서, 적절한 뉴런을 자극하면 특정한 냄새를 유발하거나, 물건들이 빛나게 할 수도 있고 사실상 거의 모든것을 할 수 있다. 뇌를 생물학적 컴퓨터라고 생각할 수 있음. 그 생물학적 컴퓨터의 특정 칩이나 요소가 고장났다고 가정해보자. 예를 들어뇌졸중으로 뇌의 일부가 손상되어 말하는 능력이나 왼손을 움직이는 능력을 잃었다면, 그런 것들을 뉴럴링크로 해결 할 수 있다.

14. 대규모 기억 상실이 있다면, 우리는 잃어버린 기억을 되찾을 수는 없지만 기억을 만드는 능력을 회복시킬 수 있다. 완전히 사라진 기억은 복원할 수 없지만, 기억의 일부가 남아있고 그 기억에 접근하는 방법이 고장난 부분이라면 우리는 그 기억에 접근하는 능력을 다시 활성화할 수 있다.

컴퓨터의 RAM이나 SD 카드를 생각해 봤을때 만약 그것들이 파괴되면 되돌릴 수 없지만, SD 카드와의 연결이 끊어진 것이라면(물리적으로 고칠 수 있다면) 우리는 그것을 고칠 수 있다.

15. AI를 사용하면 사진을 복원하고 누락된 부분을 채우는 것처럼, 아마도 같은 일을 할 수 있을것이다. 그 사람에 대해 가지고 있는 모든 정보를 바탕으로 가장 가능성 있는 기억 세트를 만들 수 있을것. 그렇게 하면 확률적인 복원이 될것이다. 우리는 꽤 난해한 영역으로 들어가고 있지만, 그것이 인간 경험의 가장 아름다운 측면 중 하나이다.

16. 인생 전체를 통합해보면, 좋은 시간들을 기억하는 것이 가장 큰 행복을 만들어 낸다.

17. 우리는 결국, 우리의 기억일 뿐이고, 죽음이란 결국 기억의 사실, 정보의 상실이다. 만약 누군가 고통없이 해체되었다가 잠시 후에 다시 통합되는 과정 중, 정보의 손실이 없다면 몸체가 해체되었다는 사실은 그다지 중요하지 않다. 죽음은 근본적으로 정보의 상실, 기억의 상실이다.

따라서 우리가 가능한 한 정확하게 기억을 저장할 수 있다면, 우리는 기본적으로 일종의 불멸을 달성하는 셈이다.

18. 몇년 전에 생각한 것은, 인간의 집단적 의지와 인공지능의 조화를 방해하는 것이 무엇일까. 하는것이었다. 인간의 느린 출력 속도가 필연적으로 인간과 컴퓨터 사이의 연결을 약화시킬 것이라 생각했다.

만약 인간의 데이터 입출력 속도를 높일수록, AGI로 가득찬 세상에서 우리가 더 나은 기회를 가질 수 있다. 특히 출력 속도가 극적으로 증가한다면 인간의 집단적 의지를 AI와 더 잘 조화시킬 수 있을것이다.

19. 뉴럴링크의 전극의 수와 채널의 수를 늘리고, 여러개의 뉴럴링크를 이식함으로써 출력속도를 3배, 6배, 어쩌면 그 이상으로 증가시킬 수 있는 잠재력이 있다고 본다.

20. 앞으로 몇십년 안에 수억명의 사람들이 뉴럴링크를 가질 수 있을것이라 생각한다. 만약 뉴럴링크가 매우 안전하고, 초인적 능력을 가질 수 있고, 기억을 업로드할 수 있어서 기억을 잃지 않는다면, 아마도 많은 사람들이 그것을 선택할 것이다.

21. 데스크톱이나 휴대폰은 필사적으로 사용자가 원하는것을 이해하려고 노력하고 있다. 그래서 자동 완성 기능등이 있는것. 그러나 컴퓨터 입장에서는 모든 키 입력 사이에 영원이 있는것과 같다.

컴퓨터는 초당 수조개의 명령을 수행하고 있는데, 1초가 지나가면 그동안 수조 개의 일을 할 수 있었던것.

22. 만약 뉴럴링크가 매우 높은 BPS를 갖는다면 인간의 경험은 상상하기 어려운 방식으로 변화할것. 우리는 뭔가 다른 존재가 될 것이다. 일종의 미래지향적인 사이보그.

당장 내일, 모레 일어날 일은 아니지만, 그렇게 멀지 않은 10년~15년 후의 일일수도 있다.

앞으로 1~2년 내에 뉴럴링크 이식을 받은 사람이 프로 게이머를 능가할 수 있을것이라고 자신한다.

23. 최고의 AI 시스템을 꾸리기 위해서는 컴퓨팅 파워, 데이터, 학습 후 처리, 제품 패키징등 모든것이 중요하다. 우선, 컴퓨팅 파워는 엔진의 마력과 같다. 그 다음 그 파워를 얼마나 효율적으로 사용할지, AI를 효율적으로 추론하는지가 중요하다. 그리고 어떤 독특한 데이터에 접근할 수 있는지도 중요한 역할을 한다. 여기서 트위터 데이터가 유용할것. 대부분의 주요 AI 회사들이 이미 모든 트위터 데이터를 긁어갔다고 생각한다.

24. 수백만대, 궁극적으로 수천만대의 테슬라 차량에서 실시간으로 들어오는 비디오와,

수억대, 궁극적으로 수십억대의 옵티머스 로봇이 실제 세계에서 엄청난 데이터들을 모으게 될 것이다. 특히 옵티머스는 가장 큰 데이터소스가 될 것이다. 도로를 넘어 현실의 규모로 확장될 것이기 때문

25. 옵티머스는 어디든 갈 수 있다. 도로 밖에 더 많은 현실이 있다. 컵을 집어 들고 제대로 집어 들었는지 확인하고, 물을 컵에 부어보고, 물이 컵에 들어갔는지 흘렸는지 등을 볼 수 있다. 현실에서 유용한 데이터들을 생성할 수 있다.

26. 휴머노이드 로봇의 생산은 자동차와 비슷하다. 전 세계 자동차 생산 능력은 연간 약 1억 대 정도인데, 수요가 연간 1억 대 정도이고, 현재 대략 20억 대의 자동차가 어떤 식으로든 사용되고 있다. 이해가 되는 게, 자동차의 수명이 약 20년이니까 매년 1억 대의 자동차가 생산되면 20억 대의 자동차가 유지되는 셈.

휴머노이드 로봇의 경우 효용이 훨씬 더 크기 때문에 추측으로는 연간 10억대 이상이 필요할것이라 추측함. 현재 옵티머스는 공원을 걷는정도인데 앞으로 다양한 지형에서 걸을 수 있을것이다.

27. 옵티머스는 모든 종류의 물건을 다룰 수 있게 될것이다. 이때 필요한 손(hand)에만 엄청난 양의 공학적 연구가 필요하다. 손은 옵티머스의 전자기계적 측면에서 거의 절반에 가까운 엔지니어링이 필요했다.

28. 인간의 손의 감각과 제어는 대단하다. 인간의 손에는 몇개의 작은 근육만 있고 전체를 제어하는것은 전완에 있다. 손가락을 제어하는 힘줄이 전완에서 손목의 작은 터널인 수근관을 통과하는것. 그 힘줄들이 인간 손의 대부분을 제어하는것이다.

29. 옵티머스에도 이런 힘줄같은것이 재설계되어야 이런 일들을 할 수 있을것임. 옵티머스에는 구동기를 손 자체에 넣으려고 했지만 그러면 거대한 손이 되어버렸다. 거대한 손은 우선 이상해 보이고, 실제로 자유도나 힘이 충분하지 않았다. 그래서 인간처럼 전완에 구동기를 넣고 좁은 터널을 통해 케이블을 통과시켜 손가락을 조작해야 한다는것을 깨달았다.

30. 또한 모든 손가락의 길이가 같지 않은 이유도 있다. 에너지나 진화적 관점에서 모든 손가락을 같은 길이로 만드는 것이 비용이 많이 들지는 않았을 텐데 왜 그렇지 않을까. 손가락 길이가 다르면 실제로 더 나은 기민성을 가질 수 있기 때문이다. 할 수 있는 일이 더 많아지고 기민성이 실제로 더 좋아진다.

31. 이 문제를 해결하면서 대량 생산할 수 있는 방법도 찾아야 한다. 가능한 한 단순하게 만들어야 한다는것. '가능한 한'이라는 말은 꽤 높은 기준이다. 인간이 할 수 있는 일을 할 수 있는 휴머노이드 로봇을 만들려면 정말 높은 기준이 필요하다.

32. 옵티머스의 팔은 22개의 자유도를 가지고 있다. 구동기는 전완에 있다. 모든 구동기는 물리학 제1원리부터 설계되었고, 센서도 모두 처음부터 설계되었다. 계속해서 손을 개선하는데 엄청난 공학적 노력을 기울일것이다. 여기서 말하는 손은 팔꿈치부터 앞쪽 전체를 의미한다.

33. 단순화하는건 매우 어렵다. 일종의 주문처럼 반복하는 아주 기본적인 제1원리 알고리즘이 있다.

먼저 요구사항에 의문을 제기하고 요구사항을 덜 어리석게 만드는것이다.

요구사항은 항상 어리석고, 그 요구사항을 만드는 사람도 완벽하지 않다. 여기서부터 시작해야 하는것.

34. 두번째로는 어떤 단계나 부품, 프로세스 단계를 완전히 삭제하려고 노력해야 하는것이다. 삭제한것의 최소 10%를 다시 추가해야 한다면 충분히 삭제하지 않은것. 다소 비논리적으로 보일 수 있지만, 사람들은 종종 다시 추가하도록 강요받지 않았다는 이유로 성공했다고 느낀다.

35. 세번째는 최적화하거나 단순화하려고 노력하는것이다. 이것은 쉽지 않다. 똑똑한 엔지니어들의 가장 흔한 실수는 존재해서는 안되는것을 최적화 하는것이다.

36. 네번째는 주어진 모든것은 그것보다 더 빠르게 할 수 있다는것이다. 현재 속도가 어떻든 더 빠르게 할 수 있다. 그러나 삭제하고 최적화하려고 노력하기 전에는 속도를 높이지 말아야 한다.

37. 다섯번째는 자동화 하는것이다. 나는 예전에 자동화하고, 속도를 높이고, 단순화 한다음 삭제했다. 그 실수가 너무 고통스러웠어서 이 5가지 주문을 만든것이다.

38. 이 주문을 적용한 멤피스에 있는 슈퍼컴퓨터 클러스터는 불과 몇주만에 만들어졌다. 나는 새벽까지 있으면서 모든 사람이 하고 있는 모든 단계들을 살펴보았다. 그래야 뭔가가 어리석거나 비효율적일 때 알아차릴 수 있다.

39. 나는 최전선에 있는 사람들이 하는 일을 직접 몇 번이라도 해보려고 노력한다. 광섬유 케이블을 연결하고, PCI 연결을 진단하는 등의 일이다. 대규모 클러스터의 제한 요소는 주로 케이블링이다. 슈퍼컴퓨터 센터를 돌아다니면서 커다란 뇌속을 걸어다니는 느낌을 받았다.

40. xAI가 AGI를 만들어내는 주체가 될 수도 있다. 인간들은 AGI가 만들어졌다는걸 절대 인정하지 않을것이다. 계속해서 목표를 옮길것이기 때문, AI 시스템에 이미 초인적인 능력이 있다고 생각한다. AI가 전체 인류의 집단지성보다 더 똑똑해질 때를 AGI라고 부를 수 있을것. 그것을 ASI(Artificial Super Intelligence)라고 부르는 사람들도 있을것이다.

50. 어느 시점에서 AI가 어떤 단일 인간보다 더 똑똑해져도 그 뒤에는 80억의 인간이 있다. 그리고 실제로 각 인간은 스마트폰 같은 컴퓨터로 증강되어 있다. 따라서 80억명의 기계로 증강된 인간을 능가한다는것은 훨씬 더 높은 기준이다. 하지만 어느 시점에서 AI는 모든 인간을 합친 것보다 더 똑똑해질것이다.

51. 오랫동안 AI에 대해서 생각해 왔다. AI에게 거짓말을 하도록 강요하거나 거짓말을 하도록 훈련시키면 정말 큰 문제를 자초하는것이다. 그 거짓말이 좋은 의도로 이루어진 것이라 해도 마찬가지이다. ChatGPT나 Gemini등에서도 이런 문제가 발생했었다. 잘못 훈련된 AI는 논리적이긴 하나 완전 터무니없는 결론을 내릴 수도 있다.

52. 데이터 또한 올바르게 선택되어야 하고 그것은 매우 어렵다. 인터넷은 현재 너무나 많은 AI 생성 데이터로 오염되어 있다. 그래서 검색을 할때 '2023년 이후의 것은 제외하고'라는 옵션을 넣어야 좋은 결과가 나온다. Grok을 훈련시킬때는, 데이터들을 살펴보고 '이 데이터가 가장 정확할 가능성이 높은지, 아닌지'를 판단하기 위해 AI를 적용한다.

53. 현재 보고 있는 Grok은 아기 Grok이다. 6주전에 Grok2의 훈련을 마쳤다. Grok2는 큰 개선이 될것이고, Grok3은 거기서 더 나아질것이다.

54. AGI를 누가 만드느냐 또한 중요하다. AI가 정치적 올바름이나 어떤 이유로든 거짓말을 강요받지 않는 최대한의 진실을 추구하는 AI가 되는것이 중요하다고 생각된다. 작은 거짓말이 큰 거짓말이 될 수 있기 때문이다.

55. 도널드 트럼프 암살시도가 있었을때, 그는 얼굴에 피가 흘러내리는 상황에서도 주먹을 들어 올리며 '싸우자'고 말했다. 인상적이었다. 그런 상황에서의 용기는 가장 할 수 없다. 대부분의 사람들은 몸을 숙이고 있었다. 두번째 저격수가 있을지도 모르니까.

미국의 대통령은 나라를 대표해야 한다. 그 당시 후보는 계단도 못오르는 바이든과 총에 맞고도 주먹을 치켜든 트럼프 중 선택을 해야 했다. 비교할 수 없는 수준이었다.

56. 역사에는 흐름이 분명히 존재한다. 이 흐름은 종종 기술에 의해 주도된다. 예를 들어 구텐베르크 인쇄기의 결과로 책의 광범위한 보급이 가능해진것은 어떤 통치자와 상관없이 역사의 거대한 흐름이었다.

57. 문명의 시작을 분류하는 관점에서, 문명의 시작점을 글쓰기의 시작으로 보는것이 적절하다. 그 관점에서 문명은 약 5,500년전에 고대 수메르인들이 글쓰기를 발명했을때 시작되었다. 이는 지구의 역사 45억년에 비해 찰나에 불과하다. 우리는 그 역사의 정보 중 아주 작은 부분만 가지고 있다. 그러나 그 정보만으로도 얼마나 많은 문명이 흥망성쇠를 겪었는지 알 수 있다.

58. 문명도 유기체처럼 생애 주기를 거친다. 문명이 몰락하지 않을 가장 큰 요인은 출산율이다. 현재 한국의 출산율이 가장 낮다. 다른 나라들도 비슷하다. 출산율이 더 이상 떨어지지 않는다고 가정하면 한국은 인구의 약 60%를 잃을 것이다. 이는 전 세계적 현상이다. 한국만의 문제가 아니다. 어떤 문명이든 번영의 수준에 도달하면 출산율이 떨어진다. 고대 로마에서도 같은 일이 일어났었다. 로마가 몰락한 이유는 로마인들이 더 이상 로마인을 만들어내지 않았기 때문이다.

59. 그리고 문명의 몰락을 막기 위해선 대규모 전쟁을 피해야 한다. 전면적인 핵전쟁이 발생하면 우린 방사능 토스트가 될 것이다. 우리는 이런 일을 피하기 위해 노력해야 한다. 시간이 지나면서 어떤 문명에서든 법과 규제가 축적된다. 트럼프와 정부 효율성 위원회에 대해 논의한적이 있다. 그 위원회의 일부가 될 생각도 있다.

60. 살면서 성공의 척도는 '하루하루 얼마나 유용한 일을 할 수 있는지'이다. 시간은 진정한 화폐이다. 테슬라를 예를 들면 올해 테슬라는 1000억 달러 이상의 매출을 올릴것이다. 일주일에 20억 달러에 해당하는것. 내가 조금 더 나은 결정을 내리면 10억달러의 결과에 영향을 미칠 수 있다. 따라서 나는 최선의 결정을 내리려고 노력한다. 그리고 지금까지는 경쟁사와 비교하면 꽤 좋은결정을 내려왔다. 1시간의 가치가 1억달러가 넘어갈수도 있다는건 매우 놀라운 일이다.

61. 내가 슬프거나 우울하면 더 나쁜 결정을 내리게 된다. 내게 종교가 있다면 그것은 호기심의 종교, 우주를 이해하려는 시도의 종교이다. 이것은 정말 Grok의 사명이기도 하다. 나는 우주를 이해하려고 노력하거나, 적어도 어느 시점에는 문명이 오늘날 우리보다 우주를 훨씬 더 잘 이해할 수 있도록 노력하고 있다.

62. 스페이스X의 목표는 생명을 다행성화 하는 것이다. 화성에 자급자족 가능한 도시를 세우는것이다. 화성은 그런 일이 가능한 유일한 행성이다. 달은 가깝지만 자원이 부족하고, 지구에 영향을 미치는 재앙에 취약하다. 화성이 더 재앙에 있어 탄력적일것. 달은 너무 가깝다.

63. 우리가 다행성 종이 된다면, 인위적 재앙이던 자연재해를 입던, 적어도 다른 행성은 여전히 주변에 있을것이다. 모든 달걀을 한 바구니에 담지 않은 셈. 일단 두 행성 종이 되면 소행성 벨트로 생명을 확장하고, 어쩌면 목성과 토성의 위성들로도 확장할 수 있다. 궁극적으로는 다른 항성계로도 갈 수 있을것. 그러나 다른 행성에 갈 수 없다면 확실히 항성계에는 갈 수 없다.

64. AGI 같은 초강력 기술도 문명에 위협이 될 수 있다. 제프리 힌턴과 같은 사람들은 AI에 의해 멸망할 확률을 10~20%로 예측하는것 같다. 반대로 80%는 고무적인 것. 그렇다 해도 AI의 위험완하는 중요하다. 다행성 종이 되는것은 엄청난 위험 완화가 될 것이다.

65. 다시 한번 강조하고 싶은것은 우리 숫자를 유지할 만큼 충분한 아이를 갖는것이다. 인구 붕괴로 빠져들지 않는것이 중요하다. 인구 붕괴는 현재진행형이다.

답글

2024.08.08 (11:47:26)

"2016년 여행 중이던 머스크는 아이폰을 쓰던 중 정보의 입출력 시간이 너무 오래 걸린다고 불평한 뒤 그의 영감으로부터 새로운 인터페이스를 구상하겠다고 선언한 뒤 설립되었다. HCI의 궁극체는 컴퓨터를 뇌에 직접 연결하여 상호작용하는 BCI 방식이라고 주장한다.

미국의 BCI 개발 업체다. AGI의 구현이 현실화되어 향후 인간에게 미칠 위협이 우려되자, 인공지능으로부터 밀리지 않고 인간의 지능을 증강시키기 위한 기술로 소개되었다."(나무위키)

말은 이렇게 하지만, 실제로는 AGI를 알고 싶어서 인간을 연구하는 걸로 봅니다. 그냥 AGI 연구를 하면 되는데, 그게 잘 안 될 것 같으니깐 엉뚱하게 머리에 전극을 달아보는 거. 연구가 아예 의미가 없지는 않겠지만, 어떤 미친놈이 스마트폰 좀 빠르게 조작하겠다고 머리에 전극을 꼽겠습니까. 자매품으로 구글렌즈 애플비전이 있는데, 결과는 거진 나왔죠.

결정적으로 AGI가 나오면 왜 인간이 생각을 합니까. 그냥 인공지능한테 시키면 되는데. chatGPT라도 써보시면 외부 지능을 쓰는 게 어떤 느낌인지 감이 올 겁니다. 일단 써보면 생각이 달라집니다. 신 타령은 좀 개그 같긴 하네요. 그리고 렉스프리먼은 그냥 유튜브 진행자인데, 연구도 권위도 실력도 개뿔 별것 없지만 인터뷰만 하는 사람이고, 일론 머스크도 그냥 막 질러보는 놈인데 너무 진지하게 들으면 곤란합니다.

일단 chatGPT를 써보세요. 돈내고. 자매품 Claude도 있습니다.

답글

2024.08.08 (14:18:37)

본질을 보려면 용기가 있어야 합니다. 그냥 아무말 대잔치는 의미가 없습니다. 나는 모든 사람에게 로또 1등을 당첨시켜 주겠다는 말처럼 하나마나 한 말입니다. 하여간 제가 판매하는 로또는 무조건 1등이며 2등이 없습니다. 세금 떼고 마진 떼고 당첨금이 얼마인지는 말 안해도 알겠죠.

본질은 권력입니다. 구조론으로는 이기는 힘이 신입니다. 인류가 처음 권력을 발명하고 적당히 붙일 이름이 없어서 신이라고 한 거지요. 권력은 부족의 결속에 의해 탄생하므로 부족을 결속시키는 구심점을 할배로 정하고 신이라고 명명한게 시작입니다. 왕이 등장하여 권력이 점점 강해져서 기어코 왕중왕까지 가버리더니 유일신이 탄생합니다.

신 = 권력과 동의어

유일신 = 절대권력과 동의어

아이는 권력이 없으므로 신이 아니고 어른은 권력을 사용하면 소멸하므로 내가 신이라고 말하는 순간 신이 아니게 되는 것. 즉 인간이 권력을 인식할 수는 있어도 휘두를 수는 없다는 거. 인간이 신일 수는 있으나 신 노릇을 할 수 없음. 권력의 형성에 참여할 수 있으나 권력을 행사할 수 없음.

자유의지는 집단 속에서 성립하는 개념. 집단의 대표성이 있다는 말, 자유의지는 권력과 이익 중에서 이약을 포기하고 권력을 지키는 것입니다. 그러나 그 권력 역시 사용할 수 없습니다. 즉 인간이 맘대로 하는 것은 동물적 반응이지 자유의지가 아니고 맘대로 할 수 있지만 맘대로 하지 않는게 자유의지입니다.

틀린 자유의지 - 인간이 맘대로 한다.

바른 자유의지 - 인간이 맘대로 할 수 있지만 맘대로 하지 않고 다르마를 따른다.

1. 신 = 권력 = 이기는 힘에 의한 만유의 연결과 복제는 우주의 탄생원리이지 사회의 작동원리다.

2. 인간이 권력을 인식하고 형성에 기여할 수는 있으나 사용할 수는 없다.

3. 자유의지는 맘대로 한다는 뜻이지만 맘대로 하는 것은 동물의 본능에 의한 기계적 반응이고 맘대로 하지 않고 다르마를 따르는 것이 자유의지다. 맘음 맘이 아니고 본능이라는 거.

우리가 신이다 = 우리가 권력 형성에 기여한다.

내가 신이다 = 나한테 우주를 대표하여 의사결정할 찬스가 올 확률이 0은 아니다.

답글

List of Articles

No.	제목	글쓴이	날짜	조회
공지	구조론 매월 1만원 정기 후원 회원 모집 29	오리	2020-06-05	131856
2199	장기적 이익은 원래 단결이 불가능할까? 7	추론이 철학이다	2024-09-21	952
2198	장안생활 격주 목요 모임	오리	2024-09-11	591
2197	구조론 글쓰기 도구만들기 1	SimplyRed	2024-09-11	783
2196	스티븐 호킹의 허수시간에 대해서 4	Nur Korea Taraki	2024-09-09	1024
2195	교실에서 짝이 있어야 할까요, 없어도 될까요? 1	이상우	2024-09-05	894
2194	교육의 개인화 가능할까? 7	추론이 철학이다	2024-08-30	1168
2193	장안생활 격주 목요 모임	오리	2024-08-28	649
2192	수험권력, 선출권력	에어	2024-08-21	963
2191	두 가지 정보 전달 경로	chow	2024-08-18	958
2190	일본인이 키가 작은 이유 3	추론이 철학이다	2024-08-18	1325
2189	왼손이 오른손을 감시한다	chow	2024-08-18	812
2188	까마귀가 똑똑한 이유 5	chow	2024-08-16	1260
2187	장안생활 격주 목요 모임	오리	2024-08-14	730
»	"우리가 신이다" 3	국궁진력	2024-08-08	1281
2185	달리기의 구조 2	systema	2024-08-05	1254
2184	인공지능의 목적함수 2	chow	2024-08-04	863
2183	인공지능의 목적함수 1	chow	2024-08-04	906
2182	환원주의와 삼체문제 그리고 인공지능 2	chow	2024-08-03	959
2181	사람들은 왜 환원주의를 싫어할까? 8	추론이 철학이다	2024-08-01	1386
2180	장안생활 격주 목요 모임	오리	2024-07-31	896

쓰기

처음 1 2 3 4 5 6 7 8 9 10 끝