Depende do sistema operacional:
*
Windows: .exe (executável), .dll (biblioteca dinâmica de links), .sys (arquivo do sistema)
*
macOS: .app (pacote de aplicativos - na verdade uma pasta, não um arquivo), .dylib (Dynamic Library)
*
Linux: Nenhuma extensão padrão, mas os arquivos destinados a serem executados diretamente geralmente não têm extensão ou uso .sh (script shell), .py (script python), etc.
Portanto, não existe uma única extensão de arquivo universal para arquivos de programas. Varia dependendo do sistema operacional e às vezes da linguagem de programação usada.