AI 시대를 위한 친환경 소프트웨어 패러다임 개발 - Fermyon의 맷 버처
테이블 목차
- 소개
- 맷 버처 소개
- 플랫폼 개발
- 효율성 문제
- 클라우드 컴퓨팅
- 웹 어셈블리
- AI 추론
- 친환경 AI
- 개발자 커뮤니티 참여
- 퍼안과 미래
소개
안녕하세요! 테크 아레나에 오신 것을 환영합니다. 이곳은 테크 분야의 주요 혁신자와 진정한 토론이 펼쳐지는 공간입니다. 오늘은 CEO 맷 버처님을 게스트로 초대하여 편을 진행하겠습니다. 맷 버처님은 파이런의 CEO로서 금년으로부터 웹 어셈블리 기술을 활용한 서버리스 클라우드 운영 플랫폼을 개발했습니다. 이전 인터뷰 때에는 웹 어셈블리의 기능과 혁신적 사용법에 대해 이야기를 나눴는데요. 오늘은 맷 버처님께서 어떤 변화와 발전을 이루셨는지 다시 한 번 소개해주시겠어요?
맷 버처 소개
저는 오랜 기간동안 오픈 소스 개발자로 활동하였고, 1995년 코드 작성을 시작으로 오픈 소스가 세계에 퍼지기 시작했을 때에도 함께 했습니다. 큰 기업인 HB 클라우드와 Google, 그리고 최근에는 Microsoft와 같은 신생 스타트업인 Revolve와 Deis와 같은 작은 스타트업까지 다양한 규모의 회사에서 일해보았습니다. 2년 전 파이런을 시작한 후, 피로로부터 제기된 문제에 신속하게 대응하고자 효율적인 컴퓨팅을 제공하기 위해 웹 어셈블리 기술을 활용한 서버리스 클라우드 운영 플랫폼을 개발하기로 결정했습니다. 파이런 웹사이트를 방문하시면 섬세하게 설계된 개발자 도구를 활용한 빠른 시동 속도와 데이터 서비스가 내장된 서버리스 함수를 구축할 수 있는 웹 어셈블리 서비스를 경험하실 수 있습니다. 이러한 플랫폼은 하이퍼 효율을 지닌 플랫폼을 구축함에 있어 저희의 비전과 목표를 실현시키기 위해 시작한 프로젝트입니다. 효율성이 왜 우리에게 중요한지 궁금하시죠? 제가 Microsoft에서 일하며 얻은 경험으로 이야기하자면, Azure 내에서 다른 클라우드 컴퓨팅 전문가와 대화를 나눈 적이 있었습니다. 제가 기술적인 주제에 대해 질문하자 상대방은 클라우드 컴퓨팅의 가장 큰 문제점에 대해 이야기했는데, 제 기대와는 달리 그는 자신의 말을 시작하지 않았습니다. 사실 그는 "우린 가능한 한 빠르게 서버를 구매하고 사용하고 있습니다. Azure가 급격하게 성장하는 시기에 그들은 눈에 띄게 빈 틀을 사용하고 있지만 실제로 80%의 유휴 자원을 낭비하고 있습니다. 현재 저희는 사용하지 않고 있는 서버에 대한 전기 요금을 내고 있으니 말입니다."라고 말씀하셨습니다. 이 이야기는 저에게 큰 인상을 주었습니다. 그리고 그 당시에는 Kubernetes에 대해 많은 연구를 하고 있었는데, 서버리스 Azure Functions, AWS Lambda와 같은 기술들을 보며 클라우드를 구축할 때 더 효율적인 하드웨어 사용법을 갖추는 것을 목표로 하는 것이 있음에도 불구하고 일부 플랫폼은 사실적으로는 효율적으로 설계되지 못한 것 같았습니다. 이런 상황에서 저희는 과연 오늘날의 클라우드 컴퓨팅 모델이 얼마나 효율적인지에 대해 다시 한 번 생각하게 되었고, 클라우드 컴퓨팅에 적용할 수 있는 새로운 형태의 컴퓨팅 모델을 고안하게 되었습니다. 이러한 고민이 웹 어셈블리에 닿게 되어, 웹 브라우저 안에서 더 빠르고 보안성이 높은 언어 실행 환경을 구축한다는 목표로 서버리스 웹 어셈블리 인프라를 개발하게 된 것입니다.
플랫폼 개발
파이런은 서버리스 환경을 구현하기 위한 개발자 도구를 지속적으로 개발해오고 있습니다. 우리는 개발자의 생산성을 높여주는 서버리스 방법론을 통해, 보일러플레이트 코드 작성에 드는 시간을 줄여줍니다. 일반적인 웹 개발자가 서버를 구성하고 해당 서버를 여러 시간동안 유지하는 번거로운 작업 필요 없이, 개발자가 작성한 코드에 요청이 들어오면 즉시 응답하는 방식으로 설계되어 있습니다. 이를 통해 잡음이 없는 환경에서 작은 단위로 실행되는 서비스를 효율적으로 관리할 수 있게 되었습니다. GPU를 최대한 효율적으로 활용하기 위해 작업을 진행하고 있습니다. GPU 인퍼런스를 위해 기존 AI 및 ML 서비스가 GPU를 여러 분 약 수 분 동안 잠궜다가 해제하는 방식을 개선하기 위해 GPU를 타임 슬라이싱하는 시스템을 구축하였습니다. 이를 통해 현재 GPU의 동작 상태를 효율적으로 모니터링하고 최적화할 수 있게 되었습니다.
효율성 문제
클라우드 컴퓨팅은 기존에 비해 효율적인 에너지 소비를 지향하고 있지만, 여전히 기본적으로 비효율적인 시스템 구조를 가지고 있습니다. 에너지 소비에 대한 미래 전망, 특히 인공지능(AI) 시대에서의 에너지 효율성에 대한 인식이 중요해지고 있습니다. 우리는 AI 관련 기술 인 AI 추론에서도 더 나은 에너지 효율성을 실현하는 것에 주력하고 있습니다.
클라우드 컴퓨팅
많은 클라우드 서비스 제공업체들은 초점을 에너지 효율성과 친환경 에너지 사용에 두고 있습니다. 그러나 클라우드의 기본 개념은 여전히 효율적이지 못한 면이 있습니다. 최근 AI 기술의 발전에 따라 GPU를 수십만 대 동시에 운영하는 일이 빈번해졌는데, 이에 따른 에너지 소모에 대한 우려가 커지고 있습니다. 디스커션에서 언급되었듯이, 파이런은 기존의 클라우드 컴퓨팅을 보완하는 새로운 컴퓨팅 형태를 개발하여 에너지 소모를 최소화하고자 노력하고 있습니다.
웹 어셈블리
웹 어셈블리는 웹 브라우저에서 다양한 언어를 실행하기 위한 기술입니다. 기존에는 자바스크립트만 실행할 수 있었지만, 웹 어셈블리를 통해 다른 언어도 실행할 수 있게 되었습니다. 이는 브라우저에서 빠른 로딩 속도와 강력한 보안 모델을 제공하는 것을 목표로 하고 있었습니다. 그리고 이러한 기술을 클라우드 환경에 적용하여 효율적인 서버리스 인프라를 구축하면서 AI 추론에 앞선 성능을 제공할 수 있게 되었습니다.
AI 추론
AI 추론은 AI 모델에서 정보를 질의하는 계산 집약적인 작업입니다. AI 추론을 통해 사용자가 질문을 하면 모델은 해당 질문을 분석하고 대답을 생성하는 과정을 거칩니다. 오늘날 AI 추론은 우리가 컴퓨터와 대화하는 것과 같은 방식으로 컴퓨터에 질문을 하고 답변을 받는 기능을 제공합니다. 이것은 개발자의 업무를 매우 편리하게 해주는 대화형 인터페이스로서 AI 기술의 중요성을 상징하는 것입니다. 하지만 AI 추론에는 많은 계산량과 전기 에너지 소모가 필요하며, 이로 인해 기후 변화와 친환경에도 부정적인 영향을 미칠 수 있습니다. 이에 대한 인식이 높아지면서 AI 추론에서 발생하는 에너지 소모를 최소화하고자 하는 노력이 이루어지고 있습니다.
친환경 AI
파이런은 AI 추론 과정에서 발생하는 에너지 소모와 온실 가스 배출을 줄이고자 애쓰고 있습니다. 이를 위해 기존의 GPU 사용 방식을 개선하고, 서버 리스 환경에서 AI 추론을 제공함으로써 보다 효율적인 에너지 사용을 실현하고자 합니다. 이를 통해 AI 추론이 다양한 분야에서 더 효율적으로 활용될 수 있고, 환경 문제로 인한 부정적인 영향도 최소화할 수 있습니다. 또한, AI 기술은 지속적인 발전과 함께 더 많은 적용 분야를 차지할 것으로 예상되므로, 친환경 AI의 중요성은 더욱 커질 것입니다.
개발자 커뮤니티 참여
파이런은 개발자 커뮤니티의 참여를 환영합니다. 개발자 분들이 이러한 기술을 활용하여 혁신적인 서비스를 개발할 수 있도록 지원하고자 합니다. 파이런 웹사이트의 개발자 페이지를 방문하여 저희의 서비스를 무료로 체험해 볼 수 있습니다. 현재는 베타 버전이지만, 개발자 분들의 참여와 피드백을 통해 더욱 완성도 높은 서비스를 제공할 수 있도록 노력하고 있습니다.
퍼안과 미래
파이런은 앞으로도 서버리스 컴퓨팅의 혁신적인 개발과 친환경 AI 기술의 발전을 지속적으로 추구할 예정입니다. AI 기술의 발전은 빠르게 진행되고 있으며, 이에 대응하여 우리는 유저들이 더 많은 영역에서 AI 추론을 활용할 수 있도록 지원할 것입니다.앞으로 6개월에서 12개월 동안 더욱 흥미로운 기술적 발전과 함께 비약적인 성장을 이룰 것입니다. 소중한 시간을 내어 인터뷰에 응해주신 맷 버처님께 다시 한 번 감사의 인사를 드립니다.
FAQ
Q: 파이런의 서비스를 체험하려면 어떻게 해야 하나요?
A: 파이런 개발자 페이지를 방문하여 신청을 하실 수 있습니다. 현재는 베타 버전이지만, 무료로 이용해보실 수 있습니다.
Q: AI 추론의 예시는 어떤 것이 있나요?
A: AI 추론은 텍스트, 이미지, 음성 등 다양한 분야에서 활용될 수 있습니다. 텍스트 기반의 AI 추론은 자동 요약, 감성 분석 등에 사용될 수 있고, 이미지 기반의 AI 추론은 이미지 처리, 컴퓨터 비전 등에 활용될 수 있습니다.