Voy a describir cómo generar una clave y firmar con ella el jar de la aplicación cómo programa Java Web Start. Comprobado en Ubuntu 16.04 LTS.

Usando la línea de órdenes con Terminal. Vamos al directorio siguiente (donde está «javac»):

cd /usr/lib/jvm/java-7-oracle/bin/

Usamos la herramienta keytool. «testkeys» y «jdc» son parámetros con nombres arbitrarios.

keytool -genkey -keystore /home/calex/NetBeansProjects/BaseConocimiento/testKeys -alias jdc

De manera interactiva nos harán preguntas. Los valores que pongamos habremos de escribirlos en Netbeans después.
Se genera en la carpeta BaseConocimiento el fichero: testKeys
Vamos a Netbeans con el proyecto:

 

Botón derecho en el nombre del proyecto «BaseConocimiento» > Propiedades > Aplicación > inicio Web > Signing > botón «Customize» > Sign by Specify key: rellenamos los campos con los valores que escogimos de manera interactiva en la Terminal.

En Netbeans «Build and Clean». Vamos a la carpeta del proyecto y copiamos carpeta «dist» y la subimos al servidor web. En mi caso uso Filezilla como cliente FTP.

Información extraída de aquí y aquí.