2000年5月13日，室伏广治在同一天的比赛中接连两次刷新了自己的纪录，其中第二次抛出了80.23米的成绩，成为日本男子链球抛出80米大关的第一人。后来在9月份的横滨超级赛中他还将这一纪录提高到了81.08米。之后室伏广治代表日本出战了悉尼奥运会，但进入决赛后他的发挥却并不十分理想，最后仅拿得第九名。
2002年取得了亚洲锦标赛和亚运会的冠军。随后又在2003年的世界田径锦标赛中取得铜牌，那一年室伏广治掷出了近10年来世界链球的最好成绩，同时也是世界第5好成绩的84.86米。2004年雅典奥运会在匈牙利名将阿德里安·安努斯因拒绝参加药检及篡改尿样被剥夺金牌后，室伏广治顺理成章的成为了奥运冠军。
2006年世界田径锦标赛投出82.01米获得金牌。2008年北京奥运的男子链球决赛中，投出80.71米，最后排名第五。但其后在国际奥委会的药检中发现获得银牌及铜牌的白俄罗斯选手对兴奋剂呈阳性反应，结果国际奥委会在12月11日宣布两人正式被取消资格并禠夺其奖牌，令原本只得第五的室伏广治获补发铜牌，但2010年两名白俄罗斯选手上诉成功，维持原判。
2012年，室伏广治代表日本竞选国际奥会运动委员会委员。8月11日，国际奥会宣布，室伏广治与台湾代表朱木炎因违反竞选规定，在选举禁区拿著iPad竞选，被判定失去竞选资格[1]。9月3日，日本奥会与室伏广治，决定向国际体育仲裁法庭提告[2]。