Dört kişilik bir ailenin büyük çocuğu olan Pichai ne arabası ne de televizyonu olan bu fakir ailenin zeki çocuğu eğitim hayatında çok başarılıydı. Pichai’nin teknoloji ile tanışması babası sayesinde olmuştur. Babası (Lakshmi) General Elektrik firmasında elektrik mühendisi olduğu için kendisine sürekli çalıştığı fabrikadan hikayeler ve zorlukları anlatırmış.
Pichai, Hindistan’da IIT üniversitesinde maden bilimciliği fakültesinden başarılı bir şekilde eğitimini tamamladıktan sonra 1993 yılında Amerika’ya yerleşmiştir. Stanford Üniversitesinden yüksek lisans bursu kazanan Pichai, iş hayatına bir an önce girmek için okulu bırakmıştır. Amerika’da mühendis olarak ilk çalıştığı firma Applied Materials’dır. Daha sonra bu firmada ürün müdürü görevini üstlenmiştir.
2002 yılında Wharton Business School’da MBA’yi tamamladıktan sonra McKinsey firmasında danışman olarak göreve başlamıştır. 2004 yılında Google firmasına katılan Pichai burada Google’un arama araç çubuğunu geliştirmiştir. Daha sonra firmanın kendisine ait bir internet gezgini (Google Chrome) yapmasını teklif etmiş ve Larry Page’den büyük destek almıştır. O zamanın CEO’su Eric Schmidt ise tarayıcı pazarına Microsoft Internet Explorer ve Mozilla Firefox hakim olduğu için Pichai’nin fikrini saçma bulup karşı çıkmıştır.
Fakat dahi bir ürüncü olan Pichai’nin geliştirdiği Chrome Browser ile Google bu pazardan da büyük bir pay kapmıştır.
Google Chrome. Firefox ve Internet Explorer’dan yıllar sonra çıkmasına karşın bugün Chrome’un pazar payı %20 civarındadır.