Paso 1: Crea la página 404.html con un mensaje indicando que no se ha encontrado la URL que ingresó el usuario, y ponla en el directorio raíz de tu sitio web.

Paso 2: Crear un archivo .htaccess el cuál hará que siempre que el usuario ingrese una URL inexistente lo dirija a la página 404.html, el archivo .htaccess debe tener lo siguiente:

ErrorDocument 404 /404.html
AddDefaultCharset utf-8

Con esto a los usuarios de tu sitio web les saldrá un mensaje amigable en lugar de un error.

Para inspirarte puedes ver algunas páginas 404 bastante amigables y muy creativas aquí