본문 바로가기

Business/NetFUNNEL

[AI Festa] AI 트래픽 관리 없이는, 혁신도 없습니다.

'인공지능 페스타(AI Festa)'는 인공지능 분야의 국내외 리더가 함께 모여 인공지능 기술력과 비전을 소개하기 위해 과학기술정보통신부와 한국 인공지능·소프트웨어산업협회, 초거대AI추진협의회가 주최 및 주관하는 대표 B2B 전문 전시회입니다. '인공지능 세계 3대 강국 도약'을 목표로 지정된 국가 전략 주간 'AI Week(인공지능 주간)'의 대표 행사로, 매년 400여 개 기업과 3만명 이상의 참관객이 코엑스로 향합니다. 

 

AI Festa 2025가 9월 30일부터 3일간 코엑스에서 개최되었습니다.
AI Festa 2025가 9월 30일부터 3일간 코엑스에서 개최되었습니다.

 

올해 AI Festa 2025는 9월 30일(화)부터 10월 2일(목)까지 3일간 진행되었으며, 에스티씨랩은 부스 전시 업체로 참가하여 AI 시대에도 꼭 필요한 트래픽 제어 방안을 많은 분들께 소개했습니다.

 

-----

AI 서비스 이용의 확산은 AI 트래픽의 급증을 불러왔습니다. 지금까지는 인간과 컴퓨터의 상호작용이 중심이었다면, AI 시대는 기계와 기계가 통신하는 API와 Agent 트래픽이 크게 증가하며, 더 중요한 영역이 되고 있습니다. AI 서비스를 위한 웹 크롤링과 스크래핑 등을 위한 매크로 트래픽도 급증해, 사람이 생성하는 트래픽을 넘어섰습니다.

 

AI 서비스 이용의 확산은 AI 트래픽의 급증을 불러왔습니다.
AI 서비스 이용의 확산은 AI 트래픽의 급증을 불러왔습니다.

 

AI 트래픽은 추론 모델에 따라, 그리고 질문과 응답의 길이에 따라 리소스 소모량이 크게 차이가 납니다. 고연산의 워크로드와 심한 변동 부하를 갖고 있어 GPU 인프라에 언제 얼마나 부하가 크게 작용할지 알기 어렵고, 응답 품질을 유지하기 어렵습니다. 이벤트 등 이용자가 몰려, 시스템 장애를 유발하는 구간은 여전히 존재합니다. 무엇보다, 제한된 인력으로는 다양한 지표를 모니터링하고 다수의 워크로드를 관리해 적절히 대응하기 어렵습니다. 이러한 AI 트래픽 관리의 어려움으로 인해, AI 서비스를 포기하는 사례도 발생합니다.

 

AI 트래픽의 관리 없이는 혁신도 없습니다. AI 시대에도 트래픽은 제어되어야 합니다. 그래서 에스티씨랩은 AI 트래픽에 맞춘, 트래픽 관리 솔루션을 제공해 AI 서비스의 안정화 및 최적화를 지원합니다. 

 

1. 봇매니저(BotManager)
: 악성 봇(매크로) 트래픽을 탐지하고 차단해 불필요한 리소스 낭비를 방지합니다. 무엇보다, 이용자에게 공정한 서비스를 제공할 수 있도록 도와줍니다. 또한, 비정상적인 접속 패턴을 24시간 모니터링 대응할 수 있습니다. 

2. 넷퍼넬(NetFUNNEL)
: 폭증 트래픽에 대한 순번 대기 및 진입 관리를 통해, 정해진 예산과 리소스 내에서도 주요 서비스를 보호하고 과투자를 방지할 수 있습니다. 대기 시 안내 정보를 통해 고객 만족도를 높일 수 있습니다. 

3. API 넷퍼넬(API NetFUNNEL)
: 실시간 GPU 자원 사용량에 따른 API 트래픽 제어로 리소스 활용도를 극대화할 수 있으며, 크레딧 기반의 Quota(할당) 제어로 과도한 비용 소요를 통제할 수 있습니다. 또한, 우선순위 기반 제어로 부하 상황에서도 주요 서비스 처리율을 높일 수 있습니다. 

4. 웨이브 오토스케일(Wave Autoscale)
: 워크로드 스케일링 및 사이징을 AI 기반으로 모니터링하고 분석, 최적화함으로써 노드 자원을 효율적으로 활용하고 응답 시간을 개선할 수 있습니다. 무엇보다, 사람의 직관을 통해 반복적으로 이루어지던 클라우드 관리 업무를 자동화하여 DevOps팀이 더 중요한 업무에 집중할 수 있도록 지원합니다. 

 

3일 동안 많은 분들이 부스에 방문해 솔루션에 대해 확인하셨습니다. 짧은 시간, 잠깐의 설명으로 제품을 모든 방문객들에게 온전히 다 이해시키기기에는 부족할 수 있겠지만, AI 시대에도 여전한 트래픽 이슈와 관리의 필요성, 제품의 기능과 도입 효과, 적용 사례에 대해 꾸준히 설명하였고, 제품에 대해 관심을 가지고 추가 자료를 요청하는 다수의 고객사와 향후 협의를 계획할 수 있었습니다. 

 

에스티씨랩은 AI Festa에 참여해, AI 트래픽의 관리 방안에 대해 소개했습니다.
에스티씨랩은 AI Festa에 참여해, AI 트래픽의 관리 방안에 대해 소개했습니다.

 

-----

부스에서 방문객 응대하는 틈틈이 다른 부스들도 한번씩 둘러보았고, 짧게 소개해 드립니다. 

 

라이언 캐릭터가 눈길을 압도하는 카카오는 카카오톡에 적용된 챗GPT를 통해 안 읽은 채팅 내용이나 보이스톡 통화 내용을 요약해주는 기능 등 새로운 AI 서비스와 기능을 소개했습니다. 기존 플랫폼의 사용성을 높이고 새로운 가치를 더하는데 계속 노력하는 모습이었습니다.

 

카카오는 기존 플랫폼의 사용성을 높이는 새로운 AI 기술을 선보였습니다.
카카오는 기존 플랫폼의 사용성을 높이는 새로운 AI 기술을 선보였습니다.

 

야놀자 서비스에서는 AI가 어떻게 활용되고 있는지 궁금했습니다. 호텔 프론트 등 여행 사업자의 고객 응대 업무를 AI로 자동화하는 솔루션을 선보였으며, 해당 서비스는 대한민국 디지털 미래혁신 대상에서 한국데이터산업진흥원장상을 수상했다고 하네요.

 

여행지에서도 사람이 아닌, AI와 소통하는 날이 곧 오겠네요.
여행지에서도 사람이 아닌, AI와 소통하는 날이 곧 오겠네요.

 

한컴은 사용자의 의도를 분석해 최적의 툴을 연결해주는 한컴 어시스턴트를 소개했습니다. 초안 작성, 요약, 편집 등을 지원하고 커스텀 AI 서식을 제작할 수 있다고 합니다. 폐쇄망 환경에서도 필요한 기능만 선별적으로 활용할 수 있어 보안성을 강화했다고 합니다.

 

한컴은 문서 작성을 지원하는 AI 어시스턴트를 소개했습니다.
한컴은 문서 작성을 지원하는 AI 어시스턴트를 소개했습니다.

 

웹케시 역시 부스를 크게 운영했는데요, 브랜치Q, AI 경리비서, AICFO 등 금융 업무 자동화를 위한 AI 솔루션을 집중적으로 소개했습니다.

 

웹케시 역시 금융 업무 자동화를 위한 AI 솔루션 기업으로 거듭나고 있습니다.
웹케시 역시 금융 업무 자동화를 위한 AI 솔루션 기업으로 거듭나고 있습니다.

 

토스는 현재도 많이 상용화되어 있는 포스기에 얼굴인식 결제가 가능한 facepay를 선보였습니다. 현금, 카드는 물론 심지어 휴대폰 페이도 필요 없는 세상이네요. 

 

얼굴인식 결제 시스템이 보편화되면, 이제 아무것도 들고 다닐 필요가 없겠네요.
얼굴인식 결제 시스템이 보편화되면, 이제 아무것도 들고 다닐 필요가 없겠네요.

 

토마토시스템은 자연어로 작성된 문서, 메모, 스케치, 이미지 등을 입력하면 곧바로 UI 화면을 설계하고 소스코드를 자동으로 생성해주는 AI 개발 빌더 제품을 소개했습니다. 이제 비전문가도 누구나 쉽게 개발할 수 있는 시대가 현실화된 듯 합니다.

 

누구나 아이디어를 개발로 구현할 수 있다면, 이제 보다 다양한 서비스가 시장에 등장할 수 있겠습니다.
누구나 아이디어를 개발로 구현할 수 있다면, 보다 다양한 서비스가 시장에 등장할 수 있겠습니다.

 

하나금융그룹은 금융 비서 서비스 등 플랫폼 서비스를 운영하고 있긴 하지만, 세미나 현장에서는 투자 및 금융지원 상담 위주의 부스를 운영했습니다. 금융이 기술을 지원하고, 기술이 금융 혁신을 촉진하는 선순환 구조를 만들 수 있는 장으로 AI Festa를 이용하고 있습니다. 

 

부스가 눈에 띄어서..
부스가 눈에 띄어서..

 

행사장 중간에서는 지능형 업무 환경의 미래, 혁신, AI 도입 사례 등에 대한 다양한 세션 발표가 진행되어 많은 참석자분들께 인사이트를 제공했습니다. 생각보다 많은 분들이 집중해서 듣고 계시네요.

 

다양한 세션 발표가 참석자분들께 인사이트를 제공했습니다.
다양한 세션 발표가 참석자분들께 인사이트를 제공했습니다.

 

-----

참관객도 많았지만, 정말 많은 기업에서 AI에 관심을 가지고 또 다양한 서비스를 운영한다는 것을 확인할 수 있었습니다. 잘 기획하고 제대로 개발된 AI 서비스를 이제 제대로 운영하려면, AI 트래픽 관리와 리소스 최적화가 필수입니다. AI 서비스를 AI답게 운영할 수 있도록 도와주는 에스티씨랩의 트래픽 관리 솔루션을 자세히 알아보고, 혁신을 완성하시기를 바랍니다.

 

관련해 궁금하신 사항은 아래 사이트를 살펴보시거나, 문의하기를 통해 남겨주시기 바랍니다. 

 

-----
문의)

#. 에스티씨랩: 02-3453-1424
#. 이메일 문의: solution@stclab.com
#. 문의 글 남겨놓기: [클릭]

 

에스티씨랩 | 통합 트래픽 관리 솔루션

STCLab은 트래픽 매니지먼트 넷퍼넬을 제공합니다. 트래픽 제어, IDC 서버 구축, 이중화 서버 구축, DR(재해 복구)구축, IT 인프라 비용 절감

www.stclab.com