כדורסל הופיע בתוכנית האולימפית בפורום האחרון שלפני המלחמה - בשנת 1936 בברלין. השתתפו בו 23 קבוצות, שהפכו את טורניר הכדורסל לנציג ביותר מבין ענפי הקבוצות במשחקי הקיץ של ה- XI. הזהב הראשון בענף זה זכה בנבחרת ארה ב, השני היה הקנדים והשלישי היו המקסיקנים.
האמריקאים המשיכו לשלוט בספורט זה - מתוך תריסר טורנירים בהם הקבוצה של המדינה הזו לקחה חלק, הם איבדו את האליפות רק בשלושה. פעמיים בשורה העליונה הצליחה נבחרת ברית המועצות להיות פעם - נבחרת ארגנטינה. באולימפיאדת 1980 האמריקנים לא השתתפו, ואז הזהב זכה לשחקני הכדורסל היוגוסלבים. על חשבון הקבוצות הסובייטיות, פרט לשני פרסי זהב, יש ארבעה כסף ושלושה ארד - זו השורה השנייה בדירוג המאוחד של הישגי שחקני הכדורסל הגברים.
כדורסל נשים נוסף לתכנית משחקי הקיץ עשרה מחזורים אולימפיים לאחר מכן, לפני אולימפיאדת XXI, שהתקיימה באטלנטה בשנת 1976. בטורניר הראשון זכו שחקני הכדורסל של ברית המועצות, כמו גם הבא, שהתקיים ללא השתתפות האמריקנים. שוב, במשחקי הקיץ בברצלונה 1992, קבוצה המורכבת משחקנים מהרפובליקות לשעבר של ברית המועצות הצטיינה בתחרויות כדורסל. בכל שאר הטורנירים האולימפיים לנשים, וכבר ישנן שש, רק הנבחרות הלאומיות של ארצות הברית זכו.
בתקופה בה פעלה כמדינה עצמאית, קבוצות כדורסל גברים ברוסיה מעולם לא הצליחו לזכות במדליות אולימפיות. לנשים יש את התוצאות הטובות ביותר - הן זכו במדליות ארד בשני פורומי הספורט בקיץ האחרונים.
על פי התקנות הנוכחיות, לשחקני כדורסל מקצועיים יש את הזכות לקחת חלק בטורנירים אולימפיים בכדורסל. בחירת הקבוצות המותרות להתחיל בה מתבצעת על פי תוכנית קבועה מראש, בה רק שלושה מקומות נחשפים בתחרויות המוקדמות. השאר מחולקים בין אלופי אפריקה, אמריקה (2 קבוצות), אסיה, אירופה (2 קבוצות) ואוקיאניה. מקום נוסף נוסף מוענק לאלוף העולם הנוכחי ולנבחרת הלאומית של המדינה המארחת של האולימפיאדה.
