Home Job Postings [Englewood Cliffs, NJ] Backend Engineer_AI Gateway – 백엔드 엔지니어 – AI 게이트웨이 모집 This topic has replies, 0 voices, and was last updated 23 hours ago by HR Specialist. Now Editing “[Englewood Cliffs, NJ] Backend Engineer_AI Gateway – 백엔드 엔지니어 – AI 게이트웨이 모집” Name * Password * Email Topic Title (Maximum Length 80) Company * Location Expires at <strong> Backend Engineer_AI Gateway - 백엔드 엔지니어 – AI 게이트웨이 모집</strong> Englewood Cliffs, NJ 1년 계약직 Full-time, On-site 급여: ~$10,570/mo (경력에 따라 협의) 기업 고객과 LLM/AI 서비스 제공업체 간의 모든 트래픽을 라우팅, 검사 및 관리하는 고성능·보안형 AI Gateway를 구축하고 있습니다. 본 포지션은 네트워크 프로그래밍, 비동기 Python 및 클라우드 인프라에 대한 높은 수준의 전문성을 바탕으로 대규모 동시 스트리밍 연결을 처리하는 지연시간에 민감한 정책 기반 Gateway를 설계하고 운영하는 역할입니다. <strong>주요 업무:</strong> - 비동기 Python 및 네트워크 프로그래밍 (3년 이상) – asyncio, aiohttp/anyio, Low-level TCP/UDP Socket, WebSocket 및 SSE 서버, TLS Handshake, Connection Pooling, Keep-alive 및 Zero-copy Buffering에 대한 풍부한 실무 경험. - Streaming 및 대용량 데이터 처리 – 실시간 LLM 추론을 위한 Chunked Transfer, 양방향 Streaming, Back-pressure 및 고처리량 데이터 경로를 관리할 수 있는 능력. - 프로토콜 지식 – HTTP/2 및 HTTP/3(Multiplexing, HPACK), gRPC 및 간헐적인 Custom Protocol Parser에 대한 실무 수준의 이해. - FastAPI 기반 Backend (3년 이상) – Production-grade REST/Streaming API를 설계, 개발 및 테스트하고, Pydantic, Dependency Injection 및 OpenAPI Docs를 실무적으로 활용할 수 있는 능력. - Containerization 및 Kubernetes – Docker, AKS/EKS/GKE 배포 경험 및 HPA/VPA Scaling, Rolling Update, Service Mesh(예: Istio/Envoy)에 대한 기본적인 이해. - 비동기 Messaging 및 Event-Driven 설계 – Decoupled Task Queue, Retry 및 Back-off Logic을 위한 Redis Streams, RabbitMQ 또는 Kafka의 Production 환경 활용 경험. - PostgreSQL 및 Vault – Advanced Query Tuning, Partitioning, PgBouncer Pooling 및 Key Management를 위한 HashiCorp Vault(Dynamic Secrets, Transit Encryption) 활용 경험. - Cloud Networking 및 Security – L4/L7 Load Balancing, TLS Termination, Reverse Proxy(NGINX/Envoy), 서비스 간 mTLS 및 자동화된 인증서 관리(ACME/Let's Encrypt) 경험. - IaC 및 CI/CD – Multi-environment Infrastructure를 위한 Terraform Modules 및 Container Image Scanning과 Canary/Blue-Green Deployment를 포함한 GitHub Actions/GitLab CI Pipeline 활용 경험. <strong>자격 요건:</strong> - Enterprise Security Gateway – CASB/DLP/WSS 또는 유사한 Edge Security Platform 연동 경험 및 중앙 집중식 Logging 및 Audit Trail 구축 경험. - IAM 및 SSO – Azure AD/Entra ID, Okta, SAML 2.0 또는 OIDC SSO Flow 구성 경험 및 Conditional Access와 SCIM Provisioning 관리 경험. - AI/LLM Pipeline – Prompt Engineering Workflow 구축, PII(개인식별정보) 익명화 및 Azure OpenAI 또는 유사 서비스의 사용량, Rate Limit 및 비용 모니터링 경험. - API Gateway 운영 – Custom Webhook/REST Integration, Circuit Breaker Pattern, Rate Limiting, Auto-Retry 및 Health Checking 경험. - Observability 및 FinOps – Datadog, Prometheus/Grafana 또는 Azure Monitor를 활용한 End-to-End Monitoring 및 사전 예방적인 비용 최적화 경험, 24/7 Incident Response(SLA/SLO) 환경 경험. - 미국에서 일할수 있는 자격 보유. sales@sbtgus.com으로 포지션명과 이력서 제출해 주시기 바랍니다. I agree to the terms of service Update List