Backend Engineer_AI Gateway – 백엔드 엔지니어 – AI 게이트웨이 모집

Englewood Cliffs, NJ
1년 계약직
Full-time, On-site
급여: ~$10,570/mo (경력에 따라 협의)

기업 고객과 LLM/AI 서비스 제공업체 간의 모든 트래픽을 라우팅, 검사 및 관리하는 고성능·보안형 AI Gateway를 구축하고 있습니다.
본 포지션은 네트워크 프로그래밍, 비동기 Python 및 클라우드 인프라에 대한 높은 수준의 전문성을 바탕으로 대규모 동시 스트리밍 연결을 처리하는 지연시간에 민감한 정책 기반 Gateway를 설계하고 운영하는 역할입니다.

주요 업무:
– 비동기 Python 및 네트워크 프로그래밍 (3년 이상) – asyncio, aiohttp/anyio, Low-level TCP/UDP Socket, WebSocket 및 SSE 서버, TLS Handshake, Connection Pooling, Keep-alive 및 Zero-copy Buffering에 대한 풍부한 실무 경험.
– Streaming 및 대용량 데이터 처리 – 실시간 LLM 추론을 위한 Chunked Transfer, 양방향 Streaming, Back-pressure 및 고처리량 데이터 경로를 관리할 수 있는 능력.
– 프로토콜 지식 – HTTP/2 및 HTTP/3(Multiplexing, HPACK), gRPC 및 간헐적인 Custom Protocol Parser에 대한 실무 수준의 이해.
– FastAPI 기반 Backend (3년 이상) – Production-grade REST/Streaming API를 설계, 개발 및 테스트하고, Pydantic, Dependency Injection 및 OpenAPI Docs를 실무적으로 활용할 수 있는 능력.
– Containerization 및 Kubernetes – Docker, AKS/EKS/GKE 배포 경험 및 HPA/VPA Scaling, Rolling Update, Service Mesh(예: Istio/Envoy)에 대한 기본적인 이해.
– 비동기 Messaging 및 Event-Driven 설계 – Decoupled Task Queue, Retry 및 Back-off Logic을 위한 Redis Streams, RabbitMQ 또는 Kafka의 Production 환경 활용 경험.
– PostgreSQL 및 Vault – Advanced Query Tuning, Partitioning, PgBouncer Pooling 및 Key Management를 위한 HashiCorp Vault(Dynamic Secrets, Transit Encryption) 활용 경험.
– Cloud Networking 및 Security – L4/L7 Load Balancing, TLS Termination, Reverse Proxy(NGINX/Envoy), 서비스 간 mTLS 및 자동화된 인증서 관리(ACME/Let’s Encrypt) 경험.
– IaC 및 CI/CD – Multi-environment Infrastructure를 위한 Terraform Modules 및 Container Image Scanning과 Canary/Blue-Green Deployment를 포함한 GitHub Actions/GitLab CI Pipeline 활용 경험.

자격 요건:
– Enterprise Security Gateway – CASB/DLP/WSS 또는 유사한 Edge Security Platform 연동 경험 및 중앙 집중식 Logging 및 Audit Trail 구축 경험.
– IAM 및 SSO – Azure AD/Entra ID, Okta, SAML 2.0 또는 OIDC SSO Flow 구성 경험 및 Conditional Access와 SCIM Provisioning 관리 경험.
– AI/LLM Pipeline – Prompt Engineering Workflow 구축, PII(개인식별정보) 익명화 및 Azure OpenAI 또는 유사 서비스의 사용량, Rate Limit 및 비용 모니터링 경험.
– API Gateway 운영 – Custom Webhook/REST Integration, Circuit Breaker Pattern, Rate Limiting, Auto-Retry 및 Health Checking 경험.
– Observability 및 FinOps – Datadog, Prometheus/Grafana 또는 Azure Monitor를 활용한 End-to-End Monitoring 및 사전 예방적인 비용 최적화 경험, 24/7 Incident Response(SLA/SLO) 환경 경험.
– 미국에서 일할수 있는 자격 보유.

sales@sbtgus.com으로 포지션명과 이력서 제출해 주시기 바랍니다.