본문 바로가기

Business/API NetFUNNEL

[API 넷퍼넬 노트] Quota(쿼터) 설정 필수! 단 한 명의 사용자가 전체 서비스를 망칠 수도 있습니다. 단 한명의 사용자가 모든 서비스에 영향을... 여러 사용자가 함께 사용하는 한정된 리소스가 있습니다. 이때, 특정 사용자가 혼자서 리소스를 과도하게 사용하면, 다른 사용자들에게는 어떤 일이 벌어질까요? 한 사람으로 인해 모든 사용자의 서비스 응답이 느려지거나, 아예 사용하지 못하게 되는 상황이 발생하게 됩니다. 이런 문제를 방지하려면, 누가 얼마나 자원을 사용할 수 있는지를 제한하는 장치가 필요합니다. 그래서 Quota(쿼터)라는 개념이 등장했습니다. Quota에 대해 알고 싶다. Quota는 사용자 혹은 서비스가 일정 시간 동안 사용할 수 있는 리소스의 양을 제한하는 정책입니다. 쉽게 말해, "누가 얼마나 자주, 얼마나 많이 쓸 수 있는지를 정해두는 룰"이라고 할 수 있습니다. [왜 필요한가.. 더보기
[AI정부 혁신 콘퍼런스]에서 만난 API 트래픽 제어 - API 넷퍼넬 에스티씨랩, AI정부 혁신 콘퍼런스 참가 에스티씨랩은 지난 8월 27일(수), 정부세종컨벤션센터에서 열린 '제 7회 AI정부 혁신 콘퍼런스'에 참여했습니다. AI, 빅데이터 등 첨단 기술을 활용한 디지털 전환이 본격적으로 추진되면서, 국민 중심의 효율적이고 투명한 서비스를 구현하기 위한 기술적, 제도적 과제를 안고 있는 정부와 다수의 공공기관 관계자들이 참석하였습니다. API 트래픽 폭증, 대안은? 공공 데이터 개방, 디지털플랫폼 정부와 같이 디지털 서비스 운영 형태는 다양한 데이터와 애플리케이션이 API를 통해 상호작용하는 형태로 이뤄지고 있습니다. 또한, 오늘날 AI 플랫폼 역시 Agent 기반으로 구동되고 있으며, 그 중심에는 API가 있습니다. AI 플랫폼의 확산과 더불어 API 트래픽은 폭발적.. 더보기
[API 넷퍼넬 노트] API 트래픽을 관리해야 하는 이유는? 일상과 매우 밀접한 기술, APIAPI(Application Programming Interface)는 애플리케이션과 서버가 데이터를 주고받는 소통의 언어입니다. 사용자 행동에 따라 API 요청이 발생하고, 서버는 이에 응답합니다. 이러한 요청과 응답의 흐름이 바로 API 트래픽입니다. ex.스마트폰 앱에서 로그인 버튼 클릭 → 서버에 로그인 API 요청 → 응답(성공 / 실패)날씨 앱에서 날씨 정보 조회 → 날씨 API 요청 → 응답(json 형식의 정보 제공) API 트래픽이 중요한 이유현대의 디지털 서비스에서 API는 점점 더 많은 역할을 수행하고 있습니다. 사용자 인증, 데이터 조회, 결제 처리까지 대부분의 기능이 API를 통해 이루어지며, 그 양도 빠르게 증가하고 있습니다. 2024년 C.. 더보기
[API 넷퍼넬 노트] "요청은 어디로 갈까?"... 로드 밸런싱과 최적화 라우팅 중요...! 요청을 어디로 보낼지 잘 결정하는 것사용자 수가 늘고, 트래픽이 많아질수록 꼭 필요한 기술이 있습니다.안정적이고 빠른 서비스 운영을 위해 꼭 필요한 바로 그것, 로드 밸런싱(Load Balancing) 입니다. 로드 밸런싱이란, 서버에 몰리는 요청을 여러 서버에 나눠주는 기술로, 트래픽을 분산시켜 서비스 성능을 높이고 장애를 방지하는 역할을 수행합니다. 트래픽이 한 곳에 몰리면 응답이 느려지고, 심할 경우 서비스가 중단될 수 있기 때문에, 요청을 어디로 보낼지 '잘 결정하는 것' 자체가 서비스 품질의 핵심입니다. 라운드 로빈, 그 맹점을 찾아로드 밸런싱 방법 중 가장 흔히 사용되는 건 라운드 로빈(Round-Robin) 방식입니다. 정해진 순서대로, 순차적으로 돌아가면서 요청을 분배하는 .. 더보기
[생성형 AI 플랫폼] 운영 비용 통제 방안, 어떻게 접근해야? 생성형 AI 플랫폼 활용은 비즈니스의 미래입니다. 최근 생성형 AI 플랫폼을 자사 비즈니스에 활용하는 사례가 크게 확대되고 있습니다. 이는 특히 금융권에서 필연적인 움직임으로 나타나고 있습니다. 디지털에 익숙한 MZ 세대는 언제 어디서든 초개인화된 맞춤형 서비스를 비대면으로 받길 원하며, AI는 이들 고객의 니즈에 맞춰 방대한 데이터를 분석해 금융 행동 패턴, 투자 성향 등을 파악하고 최적 상품 추천, 자산 관리 솔루션 등을 제공할 수 있습니다. 특히, 생성형 AI는 이용자에게 자연스러운 대화를 통해 마치 금융 전문가와 직접 상담하는 듯 한 경험을 선사할 수 있으며, 반복적이고 정형화된 업무를 자동화하여 직원들이 보다 생산적인 업무에 집중할 수 있도록 도와줍니다. 대책 없이 치솟는 생성형 AI 플랫폼.. 더보기
[API 넷퍼넬 노트] "나 멀쩡해요~" 금융권 API 필수 요건, 선제 응답! 디지털 금융 서비스가 고도화됨에 따라, 금융 플랫폼과 금융사 시스템 간의 API 연동은 금융 인프라 운영의 주요 과제로 자리잡았습니다. 금융사와 같이 트래픽 처리에 민감한 환경에서 응답시간은 단순히 요청과 응답을 주고 받는 성능 지표가 아닌, 정확한 통신 흐름을 포함한 서비스 수준 협약(SLA)에서 핵심적으로 준수하고 관리해야 할 주요한 항목입니다. 이러한 특성을 바탕으로, 아래는 금융 플랫폼과 금융사 간 비동기 API 통신이 어떻게 이루어지는지를 보여주는 대표적인 흐름도입니다. 금융 플랫폼이 금융사에 API 요청을 하면, 금융사 시스템은 이를 정상적으로 수신한 뒤 '요청을 잘 받았다'는 응답(요청 수신 확인)을 해야합니다. 이는 단순한 확인 응답처럼 보이지만, 금융 플랫폼사 입장에서는 금융사 서비.. 더보기
[API 넷퍼넬 노트] 유량제어 측면에서 Rate Limiting이 가지는 문제점을 고찰해보자 요청이 너무 많습니다!온라인 서비스를 자주 이용하다보면 요청이 너무 많아 잠시 후 다시 이용해달라는 화면을 종종 볼 수 있습니다. 이러한 화면이 노출되는 이유로 우리는 두 가지를 생각해볼 수 있습니다. 첫째, 사이트가 매우 Busy하기 때문에둘째, 내가 너무 많은 요청을 했기 때문에 어떤 이유가 되었건, 이는 해당 사이트에서 Rate Limiting 방식으로 유량 제어 중이라는 것을 의미합니다. Rate Limiting이란? Rate Limiting이란, 단위 시간 내 처리할 요청 수를 제한하는 것을 말합니다. 예를 들어, 매 초 100건의 요청만 처리하게 Rate Limit을 설정해 놓은 환경에서 클라이언트가 1초간 101회를 요청하면 마지막 요청은 설정된 수치를 초과한 요청으로 간주되어, 일반적.. 더보기
[SW Market Fair 2025] API NetFUNNEL 참가! 에스티씨랩은 지난 3월 27일, 정부세종컨벤션센터에서 개최된 SW Market Fair 2025에 참가하여, 자사의 핵심 기술을 담은 API 트래픽 관리 솔루션, API NetFUNNEL(API 넷퍼넬)을 선보였습니다.  SW Market Fair는 공공 및 민간 SW 수요자와 공급자가 한자리에 모여 국내 SW 산업의 현재와 미래를 공유하는 자리로, 올해도 많은 공공기관 관계자들과 IT 서비스 담당자들이 참석해 높은 관심을 모았습니다.   급변하는 IT 환경, API 트래픽 관리가 핵심 최근의 IT 서비스 대부분은 더 이상 단독으로 작동하지 않습니다. 다양한 서비스들이 서로 연계되고 실시간으로 데이터를 주고 받는 API 중심의 구조가 주류가 되고 있으며, 그로 인해 API 트래픽의 중요성은 그 어느 때보.. 더보기