Dès 1934 la filiale allemande d'IBM, Dehomag (pour "DEutsche HOllerith MAschinen Gesellschaft") fournit au régime nazi des machines mécanographiques de poinçonnage de cartes perforées qui servent au réarmement, à gérer la force de travail des prisonniers politiques et aux nombreux recensements de la population allemande dès 1933. Puis au décompte de la population juive dans les ghettos et camps de concentration durant la Seconde Guerre mondiale.
Ce sont ces recensements efficaces, contenant des données ethniques et religieuses, qui permirent aux forces allemandes de saisir rapidement et presque totalement les populations juives en Allemagne.
Selon le livre d'Edwin Black intitulé IBM and the
Holocaust publié en 2001, le système informatique distribué par la corporation, et les cartes perforées imprimées aux États-Unis auraient joué un rôle si essentiel dans le contrôle de la population juive sous le IIIe Reich que l'Holocauste n'aurait jamais pu avoir une telle ampleur sans cette technologie. À l'appui de cette thèse, le livre indique la différence entre les taux de mortalité aux Pays Bas, et en France, où René Carmille, chef du service national de statistiques, a évité de livrer les fichiers aux nazis, ce qui l'a conduit lui-même à Dachau où il mourut en 1944.
Le tatouage que recevaient sur le bras les Juifs à Auschwitz correspondait à leur numéro d'identification dans le système informatique.
Selon la même source, Thomas J. Watson s'était déclaré indifférent à l'aspect éthique des activités d'IBM sous le régime nazi, bien qu'il fût au courant des politiques raciales du régime nazi.
Après la parution du livre, IBM s'est engagé à donner des explications. Cela ne semble pas encore avoir été fait.