News

▲ 36 · 22 comments on source · Hacker News · ericmags · 20 days ago

Launch HN: Consus (YC F24) – 민감한 데이터를 처리하는 기업을 위한 LLM 게이트웨이

Hacker News 여러분 안녕하세요! 저는 Consus의 창업자 Eric입니다. 저희는 모든 AI 요청을 ITAR 제한 및 통제된 비밀분류 정보(CUI) 규정을 준수하는 인프라로 라우팅합니다. Consus 자체가 ITAR 제한을 충족하며, 최근 410개의 FedRAMP High 통제 항목에 대한 FedRAMP 동등성 감사를 완료했습니다. FedRAMP High는 민감한 비밀분류 데이터를 처리하는 클라우드 서비스에 대한 미국 정부의 가장 엄격한 보안 기준입니다. 이 데이터가 유출되면 심각하거나 치명적인 피해가 발생할 수 있습니다. CUI 정보를 처리하려면 FedRAMP 동등성 또는 인증을 획득해야 합니다. 데모: https://youtu.be/6MYxJe6P4oY 항공우주 및 방위 산업은 빠르게 성장하고 있습니다. 안타깝게도 대부분의 기업은 필요한 데이터 보호 및 컴플라이언스 리스크 때문에 AI를 활용하는 데 어려움을 겪고 있습니다. 이런 기업들은 다른 산업이 당연하게 여기는 AI 도구를 사용할 수 있다면 훨씬 더 빠르게 나아갈 수 있습니다. 저는 Consus 이전까지 경력의 대부분을 항공우주 및 방위 산업에서 보냈습니다. SpaceX에서 국가 안보 페이로드를 발사했고, Castelion의 초기 직원이었습니다. 저는 컴플라이언스 규제가 기업의 신기술 도입과 민감한 데이터를 다루는 벤더에 대한 신뢰를 얼마나 어렵게 만드는지 직접 목격했습니다. 예를 들어, 저는 민감하지 않은 업무에도 어떤 AI 도구도 허용하지 않는 위성 제조업체와 함께 일한 적이 있습니다. 지난 9~12개월 동안 AI가 매우 유용해졌음에도 불구하고, 얼마나 많은 항공우주 및 방위 기업들이 AI를 꺼리는지 보고 놀랐습니다. 그들은 AI가 유용할 수 있다는 것을 알면서도, 모델 제공업체가 자신들의 데이터로 학습할까 봐, ITAR 규정을 위반할까 봐, 또는 사이버 평가 실패로 신규 사업을 잃을까 봐 두려워했습니다. 이는 모두 합리적인 두려움입니다. 이러한 문제의 일부 또는 전부를 해결할 방법은 많았지만, 저희는 어떤 AI 도구나 워크플로에도 "플러그인"될 수 있는 컴플라이언스 AI 추론 레이어를 구축하는 데 집중했습니다. OpenRouter가 대부분의 도구와 통합되듯이, Consus는 ChatGPT나 Claude 같은 도구, Pi 코딩 에이전트나 Open WebUI 같은 오픈 소스 도구, 또는 개별 조직이 구축하고 유지 관리하는 애플리케이션과 연결할 수 있습니다. 거의 어떤 항공우주 및 방위 기업도 세 주요 GovCloud(AWS, Azure, Google)를 모두 사용하지 않습니다. ITAR 및 CUI 업무를 위해 프런티어 모델이 합법적으로 실행될 수 있는 위치를 매핑했을 때, 각 제공업체는 일부 모델만 보유하고 있었고, 각 모델은 서로 다른 수준의 컴플라이언스를 충족했습니다. 저희 고객은 클라우드 제공업체의 관점에서 생각하지 않습니다. 그들은 자신이 요구하는 데이터 통제와 사용하고 싶은 모델의 관점에서 생각합니다. 그래서 저희는 컴플라이언스 접미사를 만들었습니다. 내부적으로 모든 요청은 단일 OpenAI 호환 엔드포인트에 도달하며, 추론에 닿기 전에 키가 검증되고 정책이 적용됩니다. 모든 모델 이름에는 gpt-5.6-sol:fedramp-high 또는 claude-opus-5-5:itar와 같은 컴플라이언스 접미사가 붙어야 하며, 접미사가 없는 모델 이름은 거부됩니다. 저희는 표준 상용 엔드포인트로 프록시하지 않습니다. 저희 고객은 또한 모델 허용 목록을 구축하고 조직 내 개별 사용자에게 지출 및 모델 제한을 할당할 수 있습니다. 이 모든 것은 팀이 지출, 키, 정책을 관리할 수 있는 Consus Portal을 통해 처리됩니다. 자주 듣는 질문은 AWS GovCloud의 Bedrock이나 Azure Government를 직접 사용하면 되지 않느냐는 것입니다. 소규모 팀의 경우 이러한 플랫폼에 대한 액세스 권한을 얻는 것 자체가 어렵습니다. 대규모 조직의 경우 GovCloud를 통해 민감한 데이터를 처리하는 데 필요한 통제의 일부는 상속받을 수 있지만 전부는 아닙니다. 또한 모델이 제공업체별로 분산되어 있습니다. GPT-5.6 Sol은 Azure Government에서만 사용할 수 있고, Claude Opus 5.5는 AWS GovCloud의 Bedrock을 통해 제공됩니다. 둘 다 원한다면 두 개의 별도 정부 클라우드 환경을 구축하고 보호해야 합니다. 저희는 모든 모델을 하나의 엔드포인트 뒤에서 운영하므로 고객이 클라우드를 선택할 필요가 없으며, 각 클라우드에 대한 컴플라이언스 작업을 저희가 처리합니다. 데이터 민감성을 고려하여 Consus는 s

원문 게시글에서 발췌한 번역본입니다. 전문과 원문 댓글은 아래 링크에서 확인하세요.

Comment on HNEnglish
Post on X

Discussion on runchr

Loading comments…

to comment.