#226 - Giải pháp Cache Invalidation tại Facebook

Gần đây, nhằm cải thiện trải nghiệm người dùng, Uber đã triển khai project USL (Unified Signup and Login), là một giải pháp để hợp nhất xử lý đăng ký và đăng nhập trên tất cả các ứng dụng và dịch vụ của Uber. 

Cách xử lý cũ (tách biệt luồng xử lý đăng ký và đăng nhập) theo từng ứng dụng đã giúp Uber phát triển và cập nhật đổi mới nhanh chóng. Tuy nhiên, khi mở rộng quy mô hoạt động kinh doanh và phát triển thêm các ngành nghề kinh doanh phụ trợ, cách xử lý này dần phát sinh nhiều mâu thuẫn. Lúc này, mỗi sản phẩm lại có một entry point để xử lý đăng nhập và đăng ký riêng, khiến người dùng cuối phải chuyển đổi giữa hai tài khoản nếu như họ không rõ mình đã có tài khoản Uber trên sản phẩm đó hay chưa, và người dùng phải ghi nhớ thông tin của cả hai tài khoản với hai sản phẩm khác nhau, điều này khá bất tiện với người dùng cuối. 

Trong bối cảnh đó, bài toán đặt ra cho các kỹ sư Uber là phải tạo ra một giải pháp mới để: 

Sau khi triển khai giải pháp USL dưới dạng một single page web app có thể truy cập được trên cả desktop và mobile, Uber đã giải quyết được bài toán đặt ra ban đầu. Hơn thế nữa, USL đã mở ra một nền tảng “One Uber Identity” chung với trải nghiệm đăng nhập và đăng ký thống nhất trên tất cả các sản phẩm của Uber.

Đến nay, USL đã được áp dụng cho hơn 78% lưu lượng xử lý đăng ký và đăng nhập tại Uber.

Thông qua bài viết, các kỹ sư Uber sẽ giới thiệu về USL, các thách thức đặt ra về mặt công nghệ, chi tiết giải pháp kiến trúc và khả năng tối ưu hoá cho từng nghiệp vụ.

Năm 2012, việc vận hành một service quan trọng tại Netflix tốn rất nhiều tâm sức và tiềm ẩn nhiều vấn đề nhất định. Một dự án thường bao gồm các lập trình viên (LTV) làm việc cùng một team ops/SRE riêng biệt. Trong khi các LTV tập trung vào việc phát triển tính năng sản phẩm, thì team vận hành sẽ chịu trách nhiệm deploy, vận hành và support sản phẩm đó. Khi release một tính năng, các LTV cần thống nhất với team ops về các metrics, alerts, tài nguyên phần cứng. Dựa vào đó team ops sẽ deploy và vận hành ứng dụng. Khi mọi thứ diễn ra tốt đẹp, công việc của các LTV sẽ không bị gián đoạn. Ngược lại, khi có sự cố, hậu quả cộng dồn sẽ rất nhiều. Việc giao tiếp và chuyển giao kiến thức giữa các team lập trình và team ops gặp nhiều khó khăn do thiếu thông tin, cần thêm nhiều round trip qua lại để debug hoặc trả lời các câu hỏi từ đối tác. Các vấn đề liên quan tới deployment có thời gian phát hiện và giải quyết cao hơn bởi vì team ops không có kiến thức trực tiếp với code đang deploy. Khoảng cách giữa code-complete và deploy rất lâu, tính bằng tuần so với hiện nay là hằng ngày. Feedback từ hệ thống đến trực tiếp với ops rồi mới đến tay dev.

Để giải quyết việc này, Netflix đã phát triển một mô hình làm việc mà các lập trình viên sẽ chịu trách nhiệm toàn bộ vòng đời phát triển phần mềm: từ thiết kế, phát triển, test, deploy, điều hành và support. Model này được truyền cảm hứng từ các nguyên tắc devops đang dần trở nên phổ biến, giúp tối ưu thời gian từ phát triển đến deploy, và feedback ngược lại từ hệ thống đến trực tiếp dev, phá bỏ các rào cản ở giữa. Để cân bằng lượng công việc của dev, Netflix tạo ra các team tập trung hóa như Cloud Platform, Performance & Reliability Engineering, Engineering Tools, bao gồm các chuyên gia với những kiến thức chuyên sâu về deployment, infrastructure, alert, … . Những chuyên gia đóng gói những hiểu biết của mình thành các tool và phát triển cơ sở hạ tầng chung, với nhiệm vụ tăng tốc năng suất và tự động hóa các công việc của LTV. Như vậy, LTV sẽ tối ưu hóa thời gian release tính năng mới và thử nghiệm, học hỏi và thích nghi trực tiếp từ nó, tự chủ xuyên suốt vòng đời phần mềm. 

Model này được Netflix áp dụng cho đến ngày hôm nay, góp phần mở rộng đến 125 triệu user với hơn 140 triệu tiếng xem phim mỗi ngày. Bài viết có đề cập chi tiết hơn về model này, các trade off, và các yêu cầu cần thiết để áp dụng vào thực tế. Mời các bạn cùng tham khảo nhé. 

Cache giúp giảm độ trễ (latency), tăng khả năng đọc (read) của các hệ thống, và tiết kiệm chi phí. Chúng được sử dụng khắp mọi nơi, trên điện thoại hay trên trình duyệt của người dùng. Phil Karlton đã có câu nói nổi tiếng: “Chỉ có 2 thứ khó trong khoa học máy tính: vô hiệu hóa cache (cache invalidation) và cách đặt tên các thứ”. Nếu bạn đã từng làm việc với cache invalidation, rất có thể bạn đã gặp nhiều vấn đề về sự thiếu nhất quán (inconsistency) của cache. 

Đội ngũ Meta vận hành những hệ thống cache lớn nhất thế giới, bao gồm TAO và Memcache. Trong những năm qua, đội ngũ đã cải thiện tính nhất quán (consistency) của cache từ 99,9999% (6 chữ số) đến 99,99999999% (10 chữ số). Bài viết sau sẽ nói về giải pháp của Meta trong việc giải quyết vấn đề cache không nhất quán, với những nguyên tắc và phương pháp có thể áp dụng rộng rãi cho hầu hết cách dịch vụ cache ở bất cứ quy mô nào. Có thể tóm tắt cách làm của Meta như sau:

Bài viết giải thích rất chi tiết về khái niệm, sự thử thách của bài toán cache inconsistency, phương thức của Meta, và một trường hợp áp dụng để fix bug thực tế. Mời các bạn tham khảo nhé.