[Englewood Cliffs, NJ & Plano, TX] 백엔드 엔지니어 – AI Gateway
계약: 1년 + 연장 또는 정규직 전환 기회
근무지: Englewood Cliffs, NJ (2026년 9월까지) → Plano, TX (2026년 10월부터)
근무시간: 09:00 ~ 18:00 (현지시간)
급여: $10,150/월 (경력 및 자격에 따라 협의)
복리후생: Medical / Vision / Dental / PTO (입사 후 90일 이후 적용)
채용인원: 1명
※ 2026년 10월부터 Texas(Plano)로 이전 가능하며, 9월까지 NJ 현장 근무가 가능한 지원자를 모집합니다.
포지션 개요
기업 고객과 LLM/AI 서비스 간의 트래픽을 라우팅·검사·제어하는 고성능 AI Gateway를 개발 및 운영합니다. 대규모 동시 스트리밍 연결을 안정적으로 처리하기 위한 Async Python, Network Programming 및 Cloud Infrastructure 전문성을 필요로 합니다.
주요 자격요건
Async Python / Network Programming 3년+
asyncio, aiohttp/anyio, TCP/UDP, WebSocket, SSE
TLS, Connection Pooling, Keep-alive, Zero-copy Buffering
Streaming / Large-Payload
Chunked Transfer, Bidirectional Streaming, Back-pressure, High-throughput 처리
Backend / Protocol
FastAPI 기반 Backend 개발 3년+
REST/Streaming API, Pydantic, OpenAPI
HTTP/2, HTTP/3, gRPC, HPACK 이해
Cloud / Kubernetes
Docker, AKS/EKS/GKE, HPA/VPA, Rolling Update
Istio/Envoy 등 Service Mesh 경험
Messaging / Database / Security
Redis Streams, RabbitMQ 또는 Kafka
PostgreSQL, PgBouncer
HashiCorp Vault
L4/L7 Load Balancing, TLS/mTLS, NGINX/Envoy
IaC / CI/CD
Terraform
GitHub Actions 또는 GitLab CI
Image Scanning, Canary/Blue-Green Deployment
우대사항
CASB / DLP / WSS 등 Enterprise Security Gateway 경험
Azure AD/Entra ID, Okta, SAML 2.0, OIDC 및 SCIM 경험
AI/LLM Pipeline, Prompt Engineering, PII Anonymization 경험
Azure OpenAI 사용량, Rate Limit 및 Cost Monitoring 경험
API Gateway, Webhook/REST Integration, Rate Limiting, Circuit Breaker 경험
Datadog, Prometheus/Grafana, Azure Monitor 등 Observability 경험
FinOps 및 24/7 Incident Response (SLA/SLO) 경험