https://news.hada.io/topic?id=20068

인공지능의 한계 (원문에서 발췌)

1. 아직은 작은 단위의 작업만 안정적으로 처리 가능

2. 과도한 기대는 실패를 부르고, 작업 분해(task decomposition) 능력이 필수임

3. 너무 큰 작업은 제대로 수행하지 못하고 길을 잃게 됨

인공지능의 진실 (내가 작성)

1. 사용자가 똑똑하지 않으면 절대로, 원리적으로, 무조건 좋은 코드가 나올 수 없음

2. 제갈량이 절대로 유비보다 똑똑할 수 없는 것과 같은 원리. 

3. 멍청한 군주가 유능한 참모 덕을 본다? 그건 판타지 개소리.

4. 사용자가 멍청하면 인공지능도 거기에 맞춰짐.

5. 똑똑한 인공지능이 멍청한 나한테 맞춰주면 안 되냐? 원리적으로 불가능.

6. 왜냐면 더 좋은 걸 멍청한 사용자는 인지를 못 하기 때문.

7. 구조론이 좋지만 많은 사람들이 거부하는 것과 같음.

8. 똥인지 된장인지 구분할 수 없는 사람에게 된장을 퍼줘봐야 인지가 불가능.

9. 요새 유행하는 커서AI(개발도구)나 언어모델 서비스를 써보면 사용자의 아이큐가 검증됨.

10. 원문에서 말하는 한계는 사실 사용자의 한계임. 

11. 인공지능과 함께 일을 하다보면 내가 나도 모르는 걸 원한는 미친놈이라는 걸 알게 됨.

12. 너는 니가 이해할 수 없는 걸 남에게 시킬 수 없음.

13. 내가 이해를 하고 설명하면, 인공지능은 정확하게 그걸 만듬.

14. 내가 이해를 못 하고 설명하면, 인공지능도 정확하게 헤멤.

15. 작업을 분해해야 하는 이유는 인공지능이 아니라 니가 이해해야 하기 때문.

16. 작업을 분해할 수 있다는 것은 즉, 뼈와 살을 가를 수 있다는 것이고, 그게 대상을 이해한 것임.

17. 너무 큰 작업이 문제가 아니라, 큰 작업은 다계층으로 이뤄져있어 니가 이해하기가 어렵고, 그래서 인공지능에게 작업설명을 못 함.

18. 설명할 수 없는 걸 어떻게 남에게 시키냐고.

19. 인공지능과의 대화는 작업 설명이 아니라 사실 니가 이해하는 과정임.

20. 한참 대화하다 보면 내가 대상을 잘 몰랐다는 걸 알게 됨.