Bersama-sama dengan David Filo pada April 1994, sewaktu menyertai kursus kejuruteraan elektrik di Stanford University, Yang mencipta sebuah direktori sesawang Internet yang digelar "Jerry and Dave's Guide to the World Wide Web" (Panduan Jaringan Sejagat Jerry dan Daves). Lamannya kemudian dinamai semula sebagai "Yahoo!" (dengan tanda seru). Apabila Yahoo menjadi sangat popular, Yang dan Filo menyedari potensi perniagaannya dan bersama-sama mengasaskan Yahoo! Inc. pada April 1995.[3] Kedua-dua mereka mengambil cuti dan menangguhkan program kedoktoran mereka secara tak terhingga.

Yahoo! bermula sebagai sebuah portal sesawang yang terdiri daripada sebuah direktori sesawang untuk membekalkan berbagai-bagai produk dan perkhidmatan bagi aktiviti dalam talian. Portal itu kini merupakan salah satu jenama internet yang terutama di dunia.