500年左右，印度的旁遮普地區的數學成就在世界上處於領先地位，尤其在簡化數字方麵有了重大的突破。印度學者把數字記在一個個格子裏，如果第一格裏有一個符號，比如是一個代表1的圓點，那麽第二格裏同樣的圓點就表示10，而第三格裏的圓點就代表100。這樣，整個數字就是由數字符號及其所在的位置次序共同來表示。之後，印度的學者又創造了零的符號。這些數字符號和表示方法就是今天阿拉伯數字的最初形式。
大約700年左右，阿拉伯人征服了旁遮普地區。他們吃驚地發現，印度人的數學成就比自己先進得多。為了吸收印度的數學成就，771年，阿拉伯人把印度北部的數學家抓到了巴格達，迫使他們傳授印度數字及其計數法。從此，印度數字和印度計數法以其簡單而又方便的優點，在阿拉伯地區廣泛流行起來。就連阿拉伯的商人們去世界各地做生意也采用這種方法。
後來，這種數字被阿拉伯人傳入西班牙，10世紀時又由教皇兼學者熱爾貝傳到歐洲其他國家。1200年左右，阿拉伯數字被歐洲的學者正式采用，之後逐漸走進了普通歐洲人的世界。到15世紀時，歐洲已經普遍使用阿拉伯數字。不過，那時的阿拉伯數字的書寫方式與現代的阿拉伯數字尚不完全相同，後來經過許多學者的努力，才使它們變成今天的樣子。
大約在13-14世紀，阿拉伯數字傳入中國，由於中國古代有一種數字叫“籌碼”，寫起來比較方便，所以阿拉伯數字在當時沒有受到重視。20世紀初，隨著中國對外國數學成就的引進和吸收，阿拉伯數字在中國才開始正式使用。盡管阿拉伯數字在中國推廣時間較晚，但它很快就成為中國最常用的數字了。
阿拉伯數字雖然起源於印度，但卻是經由阿拉伯人的傳播後才為世界各地所廣泛接受的，因此人們將其稱為阿拉伯數字。