인텔과 함께하는 CES 2024에서 iterate.ai의 발표
테이블 내용
- 소개
- Brian의 경험
- iterate AI란?
- iterate AI의 성과
- Intel과의 협력
- 드라이브스루 영업 자동화 데모
- CPU 위에서 동작
- CPU 성능 개선 결과
- Intel 플랫폼을 위한 소프트웨어 최적화
- Next Generation 애플리케이션: gen pilot
- 마무리와 감사의 말
에모지 표시자
- 👋
- 🔥
- 🚀
- 💼
- 💯
- 🤖
- 🖥️
- ⚙️
- ℹ️
- 🎉
👋 소개
안녕하세요. iterate AI의 CTO이자 공동 창업자인 Brian을 소개합니다. Brian은 시리얼 기업가로, 최초의 아이폰 팀 멤버로도 활동했습니다. 현재는 iterate AI의 CTO이자 공동 창업자로, 대기업을 위한 드래그앤드롭 인공지능 플랫폼, iterate day를 개발하고 있습니다. 이제 Brian을 환영하고, 그의 경험에 대해 알아보도록 하겠습니다.
🔥 Brian의 경험
Brian은 경험 많은 기업가로, 최초의 아이폰 팀에 참여한 경력을 가지고 있습니다. 현재는 iterate day를 비롯한 여러 기술적 측면의 개발에 참여하고 있으며, 대규모 기업을 위한 솔루션 개발에 주력하고 있습니다.
🚀 iterate AI란?
iterate AI는 대기업을 위한 드래그앤드롭 인공지능 플랫폼을 제공하는 회사입니다. iterate AI의 플랫폼은 거의 4,000개의 엔터프라이즈 애플리케이션을 구축하고 있으며, 매월 40만 명 이상의 사용자들이 이를 이용하고 있습니다. 최근에는 Intel의 open Vino과 ipex 패키지를 통해 플랫폼을 최적화했습니다. 이를 통해 성능을 350% 더욱 향상시키고, 높은 시스템 성능을 유지할 수 있었습니다. 또한, Intel 플랫폼 위에서 대용량 자연어 모델(Large Language Models, LLMS) 최적화에도 도전하고 있습니다.
💼 iterate AI의 성과
iterate AI의 플랫폼은 대규모 기업에서 다양한 용도로 활용되고 있습니다. 특히, 드라이브스루 영업 자동화에 대한 데모를 진행하겠습니다. 이 데모는 Intel CPU 위에서 실행되며, 실시간으로 동작하는 것을 확인하실 수 있습니다. 기업용 음성 인식 시스템을 구현한 이 데모는 손님과 자연스러운 대화를 하며 주문을 받고, 추가 상품을 추천하는 등 주문 과정을 최적화합니다. 이 모든 것들은 Intel의 CPU 위에서 실행되는 것이 특징입니다. 테스트 결과, Intel IP IEX 패키지 위에서 진행한 벤치마킹에 따르면, 첫 번째 토큰의 처리 속도를 1.02배 향상시켰으며, 두 번째 토큰은 약 1.5배, 그 이후의 토큰은 2.68배 더 빠르게 처리할 수 있었습니다.
💯 Intel과의 협력
iterate AI는 Intel과 밀접한 협력을 진행하고 있습니다. Intel 플랫폼을 위한 소프트웨어 최적화를 통해 성능 개선을 이루었으며, 다음 세대 애플리케이션인 gen pilot에 대한 개발도 진행하고 있습니다. gen pilot은 기업 내에서 비공개 환경에서 동작하며, Intel CPU 위에서 최적화되어 동작합니다. iterate AI는 Intel과의 협력에 매우 만족하고 있으며, 이번 자리에서 감사의 인사를 전하고자 합니다.
🤖 드라이브스루 영업 자동화 데모
자, 이제 실제로 드라이브스루 영업 자동화 시스템을 실시간으로 보여드리겠습니다. 이 시스템은 CPU 위에서 동작하는 iterate AI의 인공지능 플랫폼을 기반으로 구축되었습니다. 드라이브스루 인공지능 플랫폼은 음성 인식 기능을 활용하여 주문을 자동화하고, 추가 상품을 추천하는 기능을 제공합니다. 다음은 실제 주문을 진행하는 영상입니다.
(영상 링크)
🖥️ CPU 위에서 동작
드라이브스루 영업 자동화 데모에서 보여준 것처럼, iterate AI의 플랫폼은 CPU 위에서 실시간으로 동작합니다. Intel의 CPU 위에서 구동하는 것을 확인하실 수 있습니다. 실제로 우리는 Intel IP IEX 패키지 위에서 벤치마킹을 진행하였고, 성능 개선을 이루어냈습니다.
⚙️ CPU 성능 개선 결과
Intel IP IEX 패키지를 이용한 벤치마킹 결과, 첫 번째 토큰의 처리 속도를 1.02배, 두 번째 토큰은 1.5배, 그 이후의 토큰은 2.68배 빠르게 처리할 수 있었습니다. 이로써 실시간 인공지능 기능을 구현할 수 있게 되었으며, Intel CPU를 이용한 애플리케이션 배포의 효율성이 크게 개선되었습니다.
ℹ️ Intel 플랫폼을 위한 소프트웨어 최적화
iterate AI는 현재 Intel 플랫폼을 위한 소프트웨어 최적화를 진행하고 있습니다. 특히, 다음 세대 애플리케이션인 gen pilot을 개발하고 있습니다. 이 애플리케이션은 비공개 환경에서 동작하며, Intel CPU 위에서 최적화된 성능을 발휘합니다. iterate AI는 Intel 플랫폼과의 협력에 매우 만족하고 있으며, 다음 세대 애플리케이션의 출시를 고대하고 있습니다.
🎉 Next Generation 애플리케이션: gen pilot
iterate AI가 개발하고 있는 다음 세대 애플리케이션은 gen pilot입니다. 이 애플리케이션은 비공개 환경에서 동작하며, Intel CPU 위에서 최적화되어 동작합니다. 기업 내에서 더욱 향상된 소프트웨어 기능을 제공하고, 효율적인 업무 환경을 구축할 수 있습니다. iterate AI는 gen pilot의 출시를 기대하고 있으며, Intel과의 협력을 통해 더욱 발전해 나갈 것입니다.
마무리와 감사의 말
마지막으로, 이 자리에 참석해주신 Intel과 Chris에게 감사의 인사를 전합니다. iterate AI는 계속해서 혁신적인 기술과 솔루션을 개발하여 많은 기업들의 성공에 기여할 것입니다. 감사합니다.
하이라이트
- iterate AI: 대기업을 위한 드래그앤드롭 인공지능 플랫폼
- 드라이브스루 영업 자동화
- Intel CPU 위에서 실시간 동작
- Intel IP IEX 패키지를 통한 성능 개선
- Intel과의 협력을 통한 소프트웨어 최적화
- Next Generation 애플리케이션: gen pilot
자주 묻는 질문 (FAQ)
Q: iterate AI의 플랫폼은 어떤 기능을 제공하나요?
A: iterate AI의 플랫폼은 대기업을 위한 드래그앤드롭 인공지능 플랫폼으로, 다양한 자연어 처리와 자동화 기능을 제공합니다.
Q: iterate AI의 플랫폼은 어떤 기업에서 사용되나요?
A: iterate AI의 플랫폼은 거의 4,000개의 대기업에서 사용되고 있으며, 매월 40만 명 이상의 사용자들이 활용하고 있습니다.
Q: 드라이브스루 영업 자동화는 어떻게 이루어지나요?
A: 드라이브스루 영업 자동화는 음성 인식을 통해 주문을 자동화하고 고객에게 추천 상품을 제공하는 기능입니다. 이를 통해 주문 과정을 최적화할 수 있습니다.
Q: iterate AI의 플랫폼은 어떻게 CPU 위에서 동작하나요?
A: iterate AI의 플랫폼은 Intel의 CPU 위에서 실시간으로 동작합니다. Intel의 IP IEX 패키지를 통해 성능 최적화를 이루었으며, 더욱 향상된 응답 속도를 제공합니다.
Q: Intel과의 협력을 통해 어떤 결과를 얻을 수 있었나요?
A: Intel과의 협력을 통해 iterate AI는 소프트웨어를 Intel 플랫폼에 최적화하고 대용량 자연어 모델을 구현할 수 있었습니다. 이를 통해 성능을 크게 향상시키고, 실시간 인공지능 기능을 제공하고 있습니다.
Q: 다음 세대 애플리케이션인 gen pilot에 대해 자세히 알려주세요.
A: 다음 세대 애플리케이션인 gen pilot은 비공개 환경에서 동작하며, Intel CPU 위에서 최적화되어 동작합니다. 더욱 향상된 소프트웨어 기능을 제공하고, 기업의 업무 효율성을 높일 수 있습니다.