According to Stephen Hawking, "Success in creating AI would be the biggest event in human history. Unfortunately, it might also be the last, unless we learn how to avoid the risks"

The idea of evolved technology posing a serious risk to human survival has swiftly grown in popularity with changing circumstances. Talk about Alphago, NANO1, Snore Circle, and numerous more technologies… it seems more absurd that someone would not be familiar with Artificial Intelligence (A.I.).

A.I. is constantly exchanging information amongst its neural networks to make itself as lifelike as possible: cloning human intelligence. So far, it does not seem like much. However, imagine A.I. undergoing "recursive self-improvement" a process in which it reprograms and boosts itself without the aid of humans. Groundbreaking. The A.I. would eventually process data and accumulate skills at speeds unthinkable to humans, paving the way to superintelligence or intelligence explosion, which would enable it to outstrip humans in any performance.

What's more, the bots will not be bothered by human limitations like emotions or sleep. This is where doomsayers fret about facing danger. The bots, marching towards their goals, are unstoppable. Eliezer Yudowski, American AI researcher, claims that "the AI does not hate you nor loves you, but you are made out of atoms which it can use for something else." For instance, say that the bots set their goal of limiting carbon emissions. The best solution would be to eliminate its main source. humans. For bots, we are like ants on the kitchen floor. we do not hate the ants, but their inconvenience prompts us to spray insecticide.

Some may ask to “unplug” the intelligence, but unfortunately, superintelligence would be stored in a database unrestricted to a single unpluggable device. However, there is no reason to worry about the potential danger of A.I. Our bots are still very far from the stage of self-improvement, and scientists have plenty of time to secure Friendly Artificial Intelligence (FAI), which could “box” A.I. up (saving us from physical harm) and even instill humane morales (MR, MP proposal) in bots.

It is more likely that our future A.I. bots will serve to aid, not destroy human intelligence. After all, we still have enough time to construct an alternate terminator-free future.

AI의 초지능화를 걱정하지 않아도 된다

“AI 개발의 성공은 인류 역사에서 가장 중요한 이벤트이다. 불행히도, 온전한 인공지능의 개발은 인류의 종말을 불러올 수 있다.” 스티븐 호킹 박사의 2014년 인터뷰이다.

기술의 진보가 인류의 생존에 위협이 되고 있다는 생각이 급변하는 환경 속에서 빠르게 확산되고 있다. 알파고, 나노1, Snore Circle 등으로 인해서 우리는 AI에 익숙해져 가고 있다.

AI는 네트워크를 통해 끊임없이 정보를 주고 받으며 생명체와 같이 발전하며 인간의 지능에 근접하고 있다. 이 때까지는 AI가 그다지 똑똑해 보이지 않았을 수 있다. 하지만 인간의 도움 없이 스스로 학습하고 발전하는 AI를 상상해보라. AI는 언젠가는 인간이 상상할 수 없는 속도로 데이터를 학습하고 기술을 익히며 Superintelligence를 갖게 될 것이며 많은 분야에서 인간을 능가하게 될 것이다. 게다가 AI는 감정과 잠 등 인간이 가지고 있는 한계점도 가지고 있지 않다.

이런 이유들로 비관론자들은 AI가 초래할 위험에 대해서 걱정을 하고 있다. 미국의 AI 연구원인 엘리저 유도프스키는 “AI는 당신을 미워하지도 사랑하지도 않는다. 하지만 당신은 AI가 다른 목적으로 사용할 수 있는 원자들로 이루어져 있다”고 했다. 예를 들어, 로봇이 탄소배출량을 제한하려는 목표를 세웠다고 가정해보자. 최고의 해결법은 가장 탄소를 많이 배출하는 원인, 바로 인간을 제거하는 것일 것이다. 로봇에게는 인간이 부엌 바닥의 개미와 다를 바가 없다. 우리가 개미를 미워하지 않아도 개미들이 불편하다는 이유로 살충제를 뿌리지 않는가.

어떤 사람들은 AI의 전원을 끄면 되지 않냐고 묻겠지만, 불행히도 Superintelligence는 한두개의 전원에 의존하는 데이터베이스에 저장되어져 있는 것이 아니다. 하지만 아직은 AI의 잠재적인 위험에 대해서 걱정할 필요는 없다. 현재의 로봇은 스스로 발전하는 단계와는 아직 멀리 있기 때문이다. 과학자들은 Friendly Artificial Intelligence (FAI)를 개발할 충분한 시간이 있다고 한다. 그들은 AI들이 인간의 신체를 해하지 않게 제한할 수도 있고 인간의 도덕성을 AI에게 주입할 수도 있다.

최윤영 강남포스트 학생기자  webmaster@ignnews.kr

<저작권자 © 강남포스트, 무단 전재 및 재배포 금지>