あなたがする必要があるのは、オペレーティングシステムを設計することです。たとえば、UNIXのようなシステムであると判断したとしても、まだ多くの決定が必要です。UNIXにどのくらいしたいですか?UNIXのどの部分が好きで、どの部分を改善する必要があると思いますか?
UNIX風に設定されていない場合は、さらに多くの質問に答える必要があります。プロセスはツリーを形成すべきか、それとも「フラット」ですか。どのようなプロセス間通信をサポートしますか?マルチユーザーにしたいですか、それともマルチタスク(またはシングルタスク)にしたいですか?リアルタイムシステムにしたいですか?タスク間でどの程度の分離を提供しますか?モノリシックスケールとマイクロカーネルスケールのどちらに配置したいですか?分散操作をどの程度までサポートしますか(もしあれば)。
インスピレーションを得るために、Linuxカーネルを勉強することはお勧めしません。Linuxカーネル自体に反することはありませんが、Linuxは教育ではなく主に実稼働での使用を目的としているという単純な事実です。多くの最適化、後方互換性のハッキングなどがあり、生産には非常に役立ちますが、教育よりも注意をそらす可能性が高くなります。
見つけることができれば、Lionの本のコピー(UNIX 6th Editionのライオンズの解説、ソースコード付き、ジョンライオンズ)が出発点としてはるかに簡単です。第6版UNIXは、小さくてシンプルであり、あまりにも単純化されたおもちゃシステムではなく、かなり早く読み、理解することができました。
(少なくとも主に)x86を対象とすることを計画している場合は、Richard BurgessによるMMURTL V 1.0も参照してください。これは、CPU設計者が当初意図していたよりもはるかにx86ハードウェアを使用するx86用のシステムを表します。ほとんどの実際のシステムは、他のCPUへの移植性を優先します。ご想像のとおり、これは物事のハードウェアの終わりに向かってはるかに重視される傾向があります。印刷されたコピーは高価で見つけにくいようですが、テキストとコードは無料でダウンロードできます。
幸いなことに、さらに多くの可能性があります- 例えば、Andrew TanenbaumとAlbert WoodhullによるOperating System Design and Implementationです。