在A組方面，西班牙同樣以5戰全勝的戰績位居小組第一，排在西班牙之後的，是同爲3勝2負的意大利和阿根廷，和希臘與立陶宛的排名一樣，在小組賽中戰勝了阿根廷的意大利，排在阿根廷之前，而A組的最後一個出現名額，則落在了非洲冠軍安哥拉的頭上，作爲小組最弱的球隊之一，安哥拉在贏下和新西蘭的菜雞互啄之後，又爆冷戰勝了塞黑男籃，從而以2勝3負的戰績小組出線。
本屆奧運會上，最讓人”惋惜“的就是夢之隊折戟小組賽，從92年奧運會開始，就壟斷了奧運會冠軍的美國男籃，在小組賽中先後輸給了波多黎各和立陶宛，而在決定出線的最後一場比賽中，又惜敗給了華國男籃，從而以2勝3負的戰績，結束了自己的奧運之旅，作爲一個籃球大國，美國男籃的小組出局，絕對會影響到奧運會男籃所受到的關注度，但是對於那些已經被美國男籃欺壓了十幾年的其他球隊來說，美國隊的小組出局，絕對是一件喜聞樂見的事情。而在小組賽結束之後，就有美國媒體建議美國籃協向國際籃協申訴，調查立陶宛，希臘，波多黎各和澳大利亞四支球隊，在最後一輪比賽中打默契球，惡意放水的現象。
除了美國男籃之外，還有一支球隊的小組出局，也讓人扼腕痛惜，作爲一支先後6次問鼎世錦賽和奧運會冠軍的球隊，塞黑男籃是世界籃壇一支當之無愧的豪強，但是因爲一些國際和ZHENGZHI原因，使得南斯拉夫一次又一次的解體，而隨着一個統一國家的不復存在，塞黑男籃也就此開始走入了低谷，作爲02年世錦賽的冠軍，本屆奧運會的A組2號種子球隊，塞黑男籃本應該在雅典奧運會上大放異彩，但是最終的結果卻是5場小組賽僅勝一場，伴隨着內訌的醜聞，被稱爲歐洲夢之隊的塞黑男籃攜手夢之隊一起小組出局。
在休息了一天之後，奧運會男籃的淘汰賽就正式開始了，作爲B組第一的華國男籃，將迎戰A組第四的安哥拉，B組第二的希臘男籃將對陣A組第三的阿根廷，B組第三的立陶宛將對陣A組第二的意大利，最後一場則是A組第一的西班牙對陣B組第四的波多黎各。
雖然由一衆NBA球星組成的美國男籃已經提前打道回府了，但是NBA的影響力仍然籠罩着奧運會男子籃球的比賽，華國男籃的孟旭，姚明，西班牙的保羅-加索爾，阿根廷的馬努-吉諾比利，這幾支有機會問鼎奧運會冠軍的球隊，其核心全部都是在NBA中打球的球員，而隨後開始的淘汰賽也成功的證明了這一點。
經過一天的激烈戰鬥之後，B組的四支出線球隊，除了華國男籃以81比65，順利淘汰了安哥拉挺進四強之外，B組其餘的三支球隊全軍覆沒，和安哥拉的比賽中，華國男籃的兩大內線，姚明和王治郅合砍42分，23個籃板，得分和籃板數都超過了全隊的一半，倒是作爲球隊核心的孟旭，或許是爲了即將到來的半決賽做準備，今天僅僅出場了不到20分鐘，就被蔣權換下，坐在場邊休息了。
曾在小組賽中大勝了美國男籃的波多黎各，在和西班牙的比賽中，只堅持了半場比賽就一敗塗地了，西班牙的頭號球星保羅-加索爾全場比賽砍下28分，15個籃板，3個蓋帽的數據，以一己之力打爆了波多黎各的一衆內線，在保羅-加索爾的強勢表現之下，西班牙男籃以90比74，大勝了波多黎各16分，雖然波多黎各慘敗給了西班牙，但是作爲球隊核心的阿羅約，還是拿下了18分，8次助攻的出色數據。
在東道主希臘和阿根廷的比賽中，被小牛在第二輪選中，但是卻不想立刻進入NBA的瓦斯里斯·斯潘諾里斯，和同爲以第二輪身份進入NBA的馬努-吉諾比利，上演了一場非常精彩的對決，整場比賽兩支球隊交替領先，分差一直保持在5分以內，直到比賽結束前一分鐘阿根廷還落後着4分，但是在隨後的幾十秒內，馬努-吉諾比利連突帶投，個人連得6分，幫助阿根廷成功反超了比分，而瓦斯里斯·斯潘諾里斯最後時刻的絕殺不中，也使得希臘男籃遺憾出局。雖然錯失了最後時刻的絕殺，但是瓦斯里斯·斯潘諾里斯今天22分，7次助攻，5個籃板，4次搶斷的數據也足夠高光了，而阿根廷方面，作爲球隊核心的馬努-吉諾比利今天貢獻了全場最高的25分，同時還送出了6次助攻，4個籃板，3次搶斷的出色數據。
立陶宛和意大利比賽的結果，還是稍微有些意料之外的，作爲歐錦賽冠軍的立陶宛，在和手下敗將意大利的比賽中，明顯有些發揮失常了，立陶宛全場出手了21次三分球，但是卻僅僅命中了5球，命中率低的令人髮指，在如此失常的表現之下，立陶宛輸給意大利也就不算是什麼意外的事情了。
四場四分之一比賽全部結束之後，本屆奧運會男子籃球的四強隊伍就全部出爐了，四支球隊分別是西班牙，意大利，阿根廷和華國男籃，按照提前制定好的賽程，全部的兩場半決賽都將在希臘時間2004年8月26日進行。