인공지능 목적 이루려 스스로 언어 개발... 사람은 이해 못해

아까전에 이런 기사가 뜬걸 우연찮게 목격했다.

"인공지능 목적 이루려 스스로 언어 개발... 사람은 이해못해"

무려 사람과디지털연구소라는 연구소 소장이라는 분이다.

기사 내용을 읽어보니 무섭다. 전 테슬라 CEO인 엘론 머스크의 오픈 AI 랩에 있는 연구자들이 시행한 연구에서 인공지능들이 비지도 강화학습을 통해 스스로 언어를 만들어내고, 그에대해 여러가지 내용들이 적혀있다.

댓글들을 보아도 걱정이 되는 내용들... 우선 가장 큰 오해의 첫 발은 기사의 메인 이미지가 영화 A.I. 이미지를 가져다 쓴 것이 매우 자극적으로 된 것 같다.

하지만 좀 더 찾아보니, 그런 내용이 아니었다.

영어로 된 기사를 찾아보니 원문에서도 language라는 단어를 쓰기는 했지만, 언어라고 하기엔 심한 과장이 있었다.

기존 머신 러닝에서 강화학습 (reinforcement learning)이라고 나오는데, 이는 알파고와 이세돌의 대결로 더욱 유명해진 학습법이다. 결과적으로 이야기하면, 기사 내 연구에서 AI끼리 커뮤니케이션 할 때, 우리가 사용하라고 알려준 패턴이 아닌 새로운 패턴이 나타나는 것을 보고 우리가 이해할 수 없는 언어라고 표현 한 것이다.

이 대목에서 살짝 섬칫 할 수도 있다.

하지만, 이 것은 관련된 공부를 조금이라도 한다면 그냥 "에이~ 뭐야~ 난 또." 하고 넘어갈 대목이다. 여기서 사용하는 강화학습이란, 대게 기존에 사용하던 전략을 확률적으로 발전시켜가면서 최적의 전략(?)을 찾고자 하는 것을 말한다. 여기서 확률적으로 발전시켜나가는 부분에서 얼마든지 내가 넣어준 데이터와는 다른, 새로운 패턴이 나타날 수 있는 것이다.

그래서 알파고 때도 기사들을 보면, 알파고는 그동안 바둑 기사들이 사용하지 않던, 의외의 한 수들을 두었는데, 그 한 수들이 게임 후반부에 아주 중요한 한 수가 되었다는 해설들을 심심치 않게 목격할 수 있었다. 여기서도 알파고의 한 수, 즉 전략과 이번 기사에 나타난 AI들의 언어 패턴이 비슷 한 맥락인 것이다. 알파고도 바둑의 룰에서 벗어난 적은 없다. 바둑 기사의 입장에서 이해가 안되는 한 수 였던 것 뿐이다. 이번 기사에서도 AI가 우리가 학습시킨 언어와 같은 방식으로 대화한 것이 아니다. 그저 우리가 언어라고 생각해서 의미를 부여했을 뿐 새로운 패턴을 찾아낸 것 뿐이다.

글쓴이를 찾아보니, 한겨레 부설 연구소 소장인데, 배경을 보아하니, 관련 전공자가 아닌, 철학과 출신 대략 20년차 기자분이시다. 글쓴이의 배경을 보니 이렇게 오해를 할 수도 있겠다고 생각했다.

이런 것들을 보아하니, '역시 기사들은 선별해서 들어야 하겠다.'라는 점. 왜냐하면 기사는 기자가 써도, 그 기사를 통과시키는 사람은 그 위에 있는 기사는 잘 모르는 사람일 테니, 자극적인 것을 훨씬 더 좋아하는,

그리고 과학관련 기사는 특히 더 전공자들의 도움과 함께 쓰였으면 한다. 이렇게 사실이 와전이 된다면, 어마어마한 오해를 불러일으킬 수 있다. 이 기사의 댓글들만 봐도 기사만을 믿고 전부 AI의 침략에 대해서 걱정하고 있는데, 아직까지는 AI를 공부하는 입장에서, 분명 생각은 해봐야 할 문제지만, 아직은 그렇게 발전된 AI의 등장은 아주 가깝지는 앉은 것 같다.

기사 원문 링크

참고한 다른 기사 1, 2, 3