李小双1973年生于湖北仙桃一个普通的工人家庭，1983年进省队，1989年进入国家队，1983年—1989年间，因身体条件并不出众，他还曾三进两出国家队。1990年北京第十一届亚运会上，李小双一举夺得团体和自由体操金牌，从此声名鹊起。

1996年7月22日，美国亚特兰大奥运会男子体操团体亚军，男子个人全能冠军，男子自由体操亚军，男子跳马第4名。