A la mayoría de tus preguntas se contesta directamente dentro del explorador de windows: cuando abres un archivo al que no es asociada alguna aplicación, se abre una ventana para eligir la que se necesita para ejecutar ese archivo; en ese momento puedes eligir tu aplicación y de pronto se realizará la conesión permanente entre este tipo de archivo (identificado por su extensión) y tu aplicación. Los detalles de esta conexión pueden revisarse en el explorador mismo: abres la ventana de las opciones de la carpeta y buscas en "Tipos de file" los archivos con la extensión que usas; por ejemplo, para los documentos de texto (".TXT" se usa normalmente el notepad, y el explorador corre el programa pasandole el nombre del archivo como parámetro, esto es lo que ves en las opciones avanzadas de la conexión para el comando OPEN: C:\WINDOWS\system32\NOTEPAD.EXE %1. Estos detalles pueden cambiarse y también puede aplicarse un icono particular a estos archivos dentro de esta función del explorador.
Ahora bien, el problema es que tu programa detecte los parámetros que recibe al ejecutarse (el %1 del comando anterior). Yo personalmente no sé cómo contestar a esta pregunta particular, mejor sería acudir al foro del LabVIEW u al foro de la comunidad española, puesto que este es el foro para CVI.