오픈AI가 인류를 위협할 정도로 강력한 인공지능 모델인 큐 스타를 만들었다. 올트먼이 이 모델에 대해 2023년 11월 16일 에이펙 정상 회의에서 언급한 바 있다. 오픈AI 연구진이 큐 스타의 위험성을 이사회에 서한으로 보냈고 샘 올트먼 해임 소동이 이어졌다.
인류를 위협할 정도의 AI 모델 큐스타
오픈AI 연구원 중에 자사의 강력한 인공지능 모델인 큐 스타(Q Star, Q*)의 위력에 불안과 경각심을 느끼고 이사회에 이메일을 보낸 사실이 드러났다. 이어 이사회가 샘 올트먼의 CEO로서의 자질을 의심하고 해고했다. 그러나 5일 만에 이사진이 바뀌고 샘 올트먼이 오픈AI에 복귀했다.
문제의 AI모델의 이름은 큐 스타다. 미국 디인포메이션에 의하면 기존 모델의 학습능력보다 몇십 배 더 빠르다. 오픈AI 연구진들은 이 모델의 수학 연산 능력을 테스트한 뒤 충격을 받았다고 입장을 표했다.
일반적으로 챗GPT등의 생성형 AI 는 통계를 기반으로 다음 단어를 예측하는 방식으로 문자를 생성하고 수학을 연산한다. 즉 데이터 학습 범위 내에서만 연산할 수 있어서 학습하지 않은 새로운 수학 문제를 풀 수 없다.
그러나 큐스타는 예외다. 추가 데이타 학습없이도 연산 문제를 이해하고 풀어 정답을 낸다. 큐 스타가 데이터셋에 없던 새로운 연산문제도 능숙하게 푸는 이유는 기존 데이터셋Data set을 응용할 수 있기 때문이다.
이는 혁신이다. 그래서 온라인테크 언론사 더 버지(The verge)는 큐 스타가 수학 문제를 스스로 풀 수 있다는 것은 생성AI가 AGI에 한발짝 더 가까워졌다는 신호라고 보도했다.
에이펙에 참석한 올트먼이 이미 언급한 강력한 AI
샘 올트먼의 해고 소통 전에 이미 올트먼은 2023년 11월 16일 아시아태평양경제협력체APEC 정상회의에서 “오픈AI는 미지 속 베일을 벗고 기술 발전 지평을 넓힐 수 있을 것이라며 이런 순간을 이끌 수 있어 영광”이라고 언급한 바 있다.
급속으로 발전하는 최첨단 기술에 대해 관련 연구원조차 두려움을 느낄 수 있다. 새로운 것에 대한 두려움이라는 감정은 인류를 위험에 빠지지 않게 하는 경종으로도 작동하기도 하고 기술 진전을 막기도 한다.
날카로운 칼을 보고 매우 두려움을 느끼는 사람이 있는 반면에 음식을 만드는 식칼로 잘 활용하는 사람이 있다. 부주의하면 식재료를 썰다가 손을 베이기도 하고 칼을 떨어뜨려 발등을 찍기도 한다. 또한 식칼을 살인 도구로 악용하는 경우도 발생한다.
오픈AI 연구원 중에 자사의 강력한 인공지능 모델인 큐 스타의 위력에 불안과 경각심을 느끼고 이사회에 이메일을 보낸 사실이 드러났다. 이어 이사회가 샘 올트먼의 ceo로서의 자질을 의심하고 해고했다. 그러나 5일 만에 이사진이 바뀌고 샘 올트먼이 오픈AI에 복귀했다.
