そのような決まりはありません。
商船でひらがなが使われているのは小型船やフェリーなどといった船で、
タンカーや貨物船は漢字が多いと思います。
～丸という船の多くは漢字ではありませんか？

海自の艦船がひらがなを使用するのは、漢字の艦船名をつけると旧軍艦と
同名になり船があり、侵略的なイメージを避けたいという思惑があるようです。
海保の船は基本てきにひらがなですが、測量船は漢字を用いていますよ。