Este rompecabezas numérico puede haberse originado en Nueva York. Su origen se remonta a finales de la década de los 80, más concretamente en 1979. Entonces, la empresa Dell Magazines publicó este puzzle, ideado por Howard Games, bajo el nombre de Number Place (el lugar de los números). Posteriormente la idea fue introducida en el periódico japonés Monthly Nikolist en 1984 que le dio el nombre de Suji wa dokushin ni kagiru (los números deben estar solos), hasta que posteriormente se abrevió esta nomenclatura para dar con el nombre por el que le conocemos hoy, Sudoku (números sólos).

Aunque es mucho más probable que el sudoku se crease a partir de los trabajos de Leonhard Euler, famoso matemático suizo del siglo XVIII. Dicho matemático no creo el juego en sí, sino que utilizó el sistema llamado del cuadrado latino para realizar cálculos de probabilidades.

Posteriormente, la editorial Nikoli lo exportó a Japón, publicándolo en el periódico Monthly Nikolist en abril de 1984 bajo el título "Suji wa dokushin ni kagiru", que se puede traducir como "los números deben estar solos" (significa literalmente "célibe, soltero"). Fue Kaji Maki, presidente de Nikoli, quien le puso el nombre. Posteriormente, el nombre se abrevió a Sudoku (su = número, doku = solo); ya que es práctica común en japonés tomar el primer kanji de palabras compuestas para abreviarlas.

En 1986, Nikoli introdujo dos innovaciones que garantizarían la popularidad del rompecabezas: el número de cifras que venían dadas estaría restringida a un máximo de 30 y los puzzles serían "simétricos" (es decir, las celdas con cifras dadas estarían dispuestas de forma rotacionalmente simétrica). Esto no siempre se cumple en los Sudokus actuales. En 1997 Wayne Gould preparó algunos sudokus para el diario The Times, que los publicó bastante más tarde, en diciembre de 2004. Tres días después, The Daily Mail publicó sus sudokus con el nombre codenumber. En 2005 muchos otros periódicos británicos empezaron a incluir sudokus a diario en sus páginas.