阿拉伯半岛上时代最早的古人类遗存是130万年前的石制生产工具。考古学家将这一时期称为旧石器时代。在阿拉伯北部的舒维希提亚和西南部的伯希玛等地，都发现有此类石器。

大约一万年前的旧石器时代晚期早段，正值阿拉伯半岛的湿润时期。半岛上四处可见的植被、湖泊、沼泽、野生动物无不吸引着古代人类前来渔猎、采集。来自地中海东部地区的游牧部族也集聚于此 ，他们使用的石制工具和武器显得与众不同。

公元前5500年左右，已经有人类陆续定居于阿拉伯半岛的沿海和绿洲地区。这一时期的人们在这里种植庄稼、畜养家牛，同时他们继续狩猎、打渔。一千年后，这里的气候重新变得日益干燥，人们又逐渐恢复了游牧的生活方式。包括箭镞、石片在内的史前时期的石制兵器、工具在阿拉伯半岛的各个地区都有所发现。