عقاید و نظرات متفاوتی درباره زمان و مکان پیدایش ورزش تنیس روی میز وجود دارد اما به طور کلی می توان اواخر قرن نوزدهم را آغاز تاریخ این رشته دانست. رئیس سابق فدراسیون بین المللی تنیس روی میز اقای "ایورمونتاگو" منشا این بازی را از سرخ پوستان امریکای شمالی می دانست.

در ابتدا برای بازی تنیس روی میز از راکت های شبکه دار همانند راکت تنیس و توپهای پارچه ای که به صورت گلوله محکم پیچیده شده بود استفاده می شد تا اینکه کم کم این نوع راکت ها جای خود را به راکت های چوبی دسته بلند و باریک که در دو طرف پوشیده از پوست گوساله بود داد.

در سال ۱۸۹۰ یک انگلیسی توپ مخصوصی از جنس سلولوئید (تقریبا همجنس توپهای فعلی) ساخت و این موجب تحولی عظیم و رونق بیشتر این بازی شد.بدلیل صدایی که از برخورد راکت با توپ سلولوئیدی ایجاد می شد نام این ورزش که در ابتدا "گوسیما" بود به "پینگ پونگ" تغییر یافت.در سال ۱۹۰۵ یک انگلیسی دیگر به نام "گود" به روی راکت های چوبی قطعه ای از لاستیک موج دار قرار داد و بدین ترتیب بازیکنان می توانستند به توپ سرعت و پیچ های مختلف بدهند.

سال ۱۹۲۰ یک شرکت تجاری ورزشی برای تبلیغ بیشتر کالای تجاری اش از نام پینگ پونگ استفاده کرد و به همین علت بعد ها نام این ورزش از پینگ پونگ به " تنیس روی میز تغییر یافت.

در سال ۱۹۲۶ فدراسیون بین المللی تنیس روی میز تاسیس شد و با کمک دکتر "لی من" قوانین و مقررات خاص و یکنواختی برای این ورزش تصویب شد. از همین سال هم مسابقات جهانی تنیس روی میز به میزبانی شهر لندن آغاز شد.

از سال ۱۹۲۶ تا ۱۹۵۲ را به علت کسب عناوین مختلف قهرمانی توسط اروپایی ها می توان عصر اروپایی ها نامید. اما دهه ۱۹۵۰ با درخشش ژاپنی ها و ابداع روش "پن هولدر" (گرفتن راکت بشکل مداد ) و ارائه ضربات فورهند و بازی تهاجمی نزدیک به میز آنها همراه بود. اما از سال ۱۹۶۱ به بعد چینی ها گوی سبقت را از رقیب شرق آسیایی خود ربودند به طوری که آنها هم اکنون نیز قدرت درجه یک این رشته محسوب میشوند.

اما در ایران ورزش تنیس روی میز ازسال ۱۳۱۷ شمسی توسط مستشاران انگلیسی در شهر های نفت خیز جنوب آغاز و کم کم توسعه یافت. اولین فدراسیون تنیس روی میز ایران نیز در سال ۱۳۲۵ شمسی به ریاست " آقا خان بختیار " تشکیل شد و یک سال پس از آن هم ایران به عضویت فدراسیون بین المللی این رشته در آمد.