만약 인공지능(AI)이 인간의 지능을 초월하는 시점, 즉 '특이점(Singularity)'에 도달한다면, 인류에게 미칠 영향은 무엇일까?

인공지능이 인간의 지능을 초월하는 시점에 도달한다면, 인류는 빠르게 두려움을 느끼게 될 것이고, 그 두려움을 통제하기 위해서 노력할 것이다. 칼은 인간의 손날베기 날카로움을 초월하고, 총은 인간의 주먹질 관통력을 초월하고, 핵무기는 그 이름만으로도 인간에게 정신적인 두려움을 제공하는 초월적 무기이다. 핵무기는 몇개의 국가에서만 사용이 가능하고, 제한적되도록 만들어졌다. 그에 대한 regulation이나 policy는 핵무기가 만들어지기 전에 설립되었다기 보다는, 그 무기의 사용에 대한 사람들의 건의에 의해서 이후에 생겨났다. 

 

인공지능이 인간의 지능을 초월한다면, 그렇지만 인간에게 통제권이 없다면 착한 인공지능과 나쁜 인공지능이 대립하는 결과가 생겨날 것이다. 인공지능이 인간의 지능을 초월한다는 것이 인간에게 부정적인 영향을 미치는 것만은 아니다. 지식적으로 뛰어나서 인간이 도달하지 못했고 경험해보지 못했던 많은 일들을 가능하게 할 것이나, 인간에게 부정적으로 영향을 미치는 부분이 존재할 것이다. 

 

이미 많은 부분에서 인공지능이 인간의 지능을 초월하였다. 인공지능은 방대한 데이터를 바탕으로 질문에 대답하고, 답변을 생성한다. 인공지능이 현재 생산할 수 있는 것은 텍스트와 이미지다. 생산되어지는 것이 부정적일 경우는 어떤 경우일까?

설계도면을 생산하고, 그에 대한 이미지를 생산하여 3D 프린터를 이용해서 부정적인 물체를 생성할 수 있다. 이 생성된 물체가 실제로 인류에 해가 될 수 있는 것이라면, 그 인공지능이 설계한대로 인간에게 부정적인 영향을 미칠 수 있다. 언제 부정적인 영향을 미치는 물체를 생성하는 것일까?

1) 근본적으로 악한 마음으로 인공지능을 사용하는 경우, 인간이 생성해내지 못하고 알아내지 못하는 부분을 방대한 데이터를 바탕으로 생성해낼 수 있다.

2) 설계자체의 문제로, 트리거 포인트가 잘못되어지는 경우, 잘못된 결정을 인공지능 스스로가 만들어낼 수 있다. 

 

인공지능이라는 것에 대한 세세한 부분을 알지 못하고, 어떻게 만들어지는지 모르는 상태의 사람이 생각하는 인공지능과, 내부 설계를 아는 사람이 바라보는 인공지능을 다를 수 밖에 없다고 본다. LLM이라는 거대모델. 텍스트가 방대하게 있을 것이고, 그에 대한 전처리가 이루어졌을 것이다. Scraped된 단어와 그에 따른 translation 매칭도 방대한 데이터를 바탕으로 제공되었을 것이다. 텍스트가 그에 알맞는 정답을 확률적으로 계산해서 제공해준다고 한다. 이미지는 어떤가? 이미지는 텍스트를 바탕으로 X텍스트와 Y이미지의 매칭을 했을 것이라 생각한다. 수많은 이미지가 scraped되었고 그 이미지에 따른 label 및 캡쳐링이 있을 것이다. 

 

인류는 발전된 인공지능으로 더 많은 일들을 이뤄내려고 할 것이고, 그 과정에서 부정적으로 인공지능을 사용하는 사람이 있을 것이지만, 그렇다고 해도 인류가 인공지능으로 인해서 한 순간에 멸망하거나 하는 일은 없을 것이다.