About - Ying Xiang Zhao

experience

DevOps & Backend Engineer @ 集雅科技 GliaCloud

2023-02 – present

Infrastructure

主導 IaC 實踐，採用 Terraform (Terramate) 維護公司所有雲端基礎建設，並以 AI Agent 加速審核與建置流程，大幅節省人力成本
建構大規模用戶資料收集系統，每月處理 3,000 億次請求，涵蓋 Load Balancer、GKE、Cloud Logging、Cloud Storage、BigQuery 完整資料處理 pipeline
管理 10 個 GKE cluster、200+ 個 serverless service，確保系統高可用與穩定性

AI Agent Infrastructure

主導 mikan agent 導入，降低使用門檻，輔助公司運維及管理、系統偵錯自動化、產品進度管理與即時資料查詢

SaaS Operations

管理 SaaS 專案完整雲端架構：Cloud Run、Cloud SQL、Memorystore for Redis、API Gateway
優化對外 API 安全機制，強化身份驗證與存取控管

Performance

定位 DB slow query 根因，將隨資料量線性增長的 API 回應時間從數分鐘壓縮至 3 秒內
針對高併發場景重構 ML 任務批次寫入機制，提升系統吞吐量數倍

ML Model Deployment

部署並維運多套 LLM 推論服務（自行 fine-tune 語言模型、開源 video / image 生成模型），依服務世代採 PyTorch Serve / NVIDIA Triton / BentoML 三套維運策略，並維護 HuggingFace、Replicate 上的實驗性部署流程
在 Azure NVIDIA A10 GPU VM 上建置並維運 NVIDIA Omniverse 基礎設施，支援 3D 場景生成與 AI 視覺內容研究

Backend & DevOps Engineer @ 鈊象電子 IGS

2022-03 – 2023-02

負責遊戲營運後台 API 開發與系統整合，建構模組化工具框架支援業務資料管理
運用 AWS EC2、Amazon MSK、AWS Lambda、Amazon Bedrock 建構雲端服務與資料流處理架構
設計並維護 Jenkins CI/CD pipeline，提升部署效率與穩定性
與台灣科技大學（NTUST）產學合作，設計遊戲日誌即時資料處理框架

Frontend Intern @ 博錸生技

2018-08 – 2018-10

執行官網全站 RWD 改版（ASP.NET），提升頁面載入速度與行動裝置體驗

projects

mikan ↗open sourceTypeScript · Docker · Kubernetes · Helm · Kata Containers

Self-hosted AI coding agent for organizations: every Slack channel and DM gets its own sandboxed workspace, credentials and memory; also speaks Telegram, Discord and GitHub.

tiny-agent ↗open sourceTypeScript · Go · Python · Rust

Minimal AI coding agents implemented side by side in TypeScript, Go, Python and Rust, with a Traditional Chinese book explaining how coding agents work.

SentriPay ↗

Travel expense splitter I run: multi-currency conversion, no app to install, and a shareable link that keeps everyone's trip ledger in sync.

Studio ↗

Browser-based video editor built on WebCodecs.

→ open source details

skills

DevOps / Cloud

GCP · AWS · Cloudflare · Terraform / CDKTF · Kubernetes · Docker · Cloud Build · GitHub Actions · ELK Stack · SonarQube · Linux · Git

Backend

Python · Express · Bash · MongoDB · PostgreSQL · MySQL · Redis · RabbitMQ · Kafka · Spark

ML / AI

PyTorch Serve · NVIDIA Triton · BentoML · HuggingFace · Replicate · AI agents

Frontend

Vue · React · Astro

misc#

I’m a DevOps Engineer who loves diving into diverse domains — from full stack web development to ML model deployment, all the way to creating mind-blowing videos with diffusion models. Always chasing that next cool tech to play with.

Buy GPT Image 2

Ying Xiang Zhao 趙映翔