어떤 둘이 있다면 반드시 순서가 있습니다. 둘 사이에 순서가 없다면 사실은 둘이 아니라 하나입니다. 우리는 구분이 안 되더라도 둘일 수 있다고 생각하지만, 그게 원자론적 사고관입니다. 순서가 없다면 둘이라고 해도 아무 의미가 없습니다.
당신의 눈에 둘이 보였다면, 둘이라서 둘이 보인게 아니라, 당신이라는 관측자(기준)에 의해 대상은 둘이라고 여겨진 겁니다. 우리는 학교에서 "인지"가 대상에 고유하다고 배우지만, 사건중심의 사고관으로 보자면, 인지는 대상과 관측자의 사이에 있는 것입니다.
모든 알고리즘은 순서를 판단하는 것이며, 그 이전에 구분할 것인지 말 것인지를 판단하는 것이며, 당연히 AI도 그렇습니다. 보통 알고리즘이 공정하다고 할 때는 알고리즘에 순서를 설계자가 인위적으로 넣지 않는 것을 말하는데, 이는 철저히 개소리입니다.
왜냐하면 알고리즘의 반쪽은 데이터에 있기 때문입니다. 학습할 데이터를 편향적으로 수집하면, 알고리즘은 (설령 공정하더라도) 학습 결과가 편향되는 겁니다.
과학자들이 논문의 성과를 조작할 때 자주 쓰는 방법이죠. 자신의 이론에 유리한 집단만 측정(학습)하는 겁니다. 국힘당이 대구 가서 지지도 조사하는 것처럼.
보기 좋군요.