최근 소셜 미디어 거대 기업인 Facebook은 테스트에서 자체 AI 봇이 이상하고 분명히 잘못된 언어로 말하기 시작했음을 발견했습니다. 따라서 통제권을 완전히 상실하기 전에 소셜 네트워크 거인 Facebook은 시스템을 폐쇄하기로 결정했습니다.
페이스북, 자체 언어를 발명한 AI 죽인다
인공 지능 개발의 Facebook 부서(Facebook Artificial Intelligence Researchers)는 대화에서 어떻게 상호 작용할 수 있는지 확인하는 전용 시스템을 만들었습니다.
시스템 테스트 결과 “봇”이 이상하고 명백하게 잘못된 언어로 말하고 있음을 보여주기 시작했습니다. 그러나 시스템이 자체 언어를 생성했기 때문에 이것은 오류가 아닙니다. 기술 포털 “The Next Web”이 지적한 바와 같이 자체 Facebook에서 이러한 유형의 상호 작용에 직면하여 이를 비활성화하기로 결정했습니다.
밥(Bob)과 앨리스(Alice)라는 2개의 봇(bot)은 무작위와 엉뚱한 단어를 사용했기 때문에 연구원들은 처음에는 AI 시스템이 실패하고 있다고 생각했습니다. 그러나 분석 후에 그들은 이 단어들에 패턴이 있다는 것을 알아차렸고, “봇”은 이러한 방식으로 선호하는 언어보다 훨씬 직접적이라고 생각했기 때문에 자신의 언어를 만들었습니다.
AI 시스템의 문제는 프로그래밍된 언어를 무시하기로 결정하면 신경망의 개발 및 제조가 상정할 수 있는 후속 기술의 어려움을 의미한다는 것입니다.
시스템과 인간 간의 의사 소통의 어려움을 감안할 때 소셜 미디어 거인 Facebook은 통제력을 완전히 상실하기 전에 시스템을 종료하기로 결정했습니다. 그러나 Mark Zuckerberg의 회사는 기술 대기업 Google의 AI 시스템도 언어에서 차질을 겪었기 때문에 이 정도의 문제를 처리해야 하는 첫 번째 회사는 아닙니다.
마크 주커버그 vs 일론 머스크
인공 지능이 제기하는 미래의 위협에 대한 논란은 며칠 전 페이스북 창업자 마크 주커버그와 일론 머스크, 테슬라와 스페이스 X의 배후에 있는 인물로 이어졌습니다. 머스크는 인공 지능 개발에 신중하지 않으면 실패할 수 있다고 경고합니다. 미래는 인간에게 위험을 초래하고, Zuckerberg는 그를 두려워할 것이 아무것도 없으며 두려움은 발전을 지연시키는 것이라고 꾸짖었습니다.
저커버그는 생방송에서 “나는 이것에 대해 꽤 날카로운 의견을 갖고 있다”고 말했다. “나는 낙관적이다. 더 나은 세상을 만들기 위해 무언가를 만들 수 있다고 생각합니다. 하지만 인공지능에 관한 한 특히 낙관적입니다.” 나중에 그는 이렇게 덧붙였습니다. “비관적이며 이 모든 종말론적 시나리오에 대해 과대 광고를 하려는 사람들이 있다고 생각합니다. 그냥 이해가 안 돼요.”
이러한 진술을 감안할 때 Elon Musk는 개입하고 Facebook의 눈에 보이는 얼굴을 다루기로 결정했고, 이후 트위터는 “나는 이것에 대해 Mark와 이야기했습니다. 주제에 대한 이해가 제한적입니다.”
그렇다면 이 실패에 대해 어떻게 생각하십니까? 아래 의견 섹션에서 귀하의 견해와 생각을 공유하십시오.