AI에 대한 흥분의 대부분은 챗봇으로 전환되었지만 Stable Diffusion과 같은 도구를 사용한 이미지 생성은 여전히 인기가 있습니다. Stable Diffusion은 이제 외부 서버 없이도 Android 휴대폰에서 실행되는 것으로 입증되었습니다.
Qualcomm은 Android 휴대폰에서 로컬로 Stable Diffusion으로 생성된 몇 가지 이미지를 선보였습니다. 이미지 생성 도구를 찾아 프롬프트를 입력하고 클라우드에 생성할 수 있었지만 이러한 이미지는 Qualcomm의 AI 스택과 스마트폰의 하드웨어를 사용하여 완전히 로컬에서 생성됩니다.
우리는 그 용도를 실제로 인지하지 못하기 때문에 잊기 쉬울 수 있지만, 요즘 많은 스마트폰에는 전용 AI 가속 하드웨어가 탑재되어 있습니다. Qualcomm은 이러한 결과를 달성하기 위해 Snapdragon 8 Gen 2 SoC와 함께 제공되는 AI 엔진을 사용하고 있다고 말합니다. 프롬프트를 입력하면 Stable Diffusion이 해당 프롬프트와 거의 일치하도록 시도하는 이미지를 생성합니다.
Qualcomm은 블로그 게시물에서 “Qualcomm AI Engine 다이렉트 프레임워크를 사용하여 신경망을 대상 하드웨어에서 효율적으로 실행되는 프로그램으로 매핑했습니다. […] 이 전체 스택 최적화의 결과는 512×512 픽셀 이미지를 생성하기 위해 20개의 추론 단계 동안 15초 미만으로 스마트폰에서 Stable Diffusion을 실행하고 있습니다. 이는 스마트폰에서 가장 빠른 추론이며 클라우드 대기 시간과 비교할 수 있습니다.”
아직 로컬에서는 Android 휴대전화에서 Stable Diffusion을 사용할 수 없습니다. 이것은 단지 기술 데모일 뿐입니다. 궁극적으로 공개적으로 사용 가능한 앱으로 바뀔 수 있지만 Qualcomm은 아직 아무 것도 약속하지 않습니다.
출처: 퀄컴
