Die Grenzontologie ist ein systematischer Entwurf einer nicht-substantiellen Ontologie, den Erwin Ott in seiner Vorlesungsreihe Apophatik und Prozess als Grenzbegriffe der Ontologie (2006) entwickelt und zu einem umfassenden Forschungsprogramm ausgebaut hat. Ausgehend von der Einsicht, dass jede Ontologie die Bedingungen ihrer eigenen Bestimmbarkeit voraussetzt, ohne sie reflektieren zu können, ohne in regressiven oder zirkulären Begründungsverdacht zu geraten, vollzieht die Grenzontologie eine reflexive Wendung: Sie verschiebt die Frage von „Was ist?" zu „Unter welchen Bedingungen ist Bestimmtheit überhaupt möglich?" Diese Wendung führt auf die Grenzstruktur – eine immanente Differenzstruktur, die jeder Bestimmung als konstitutive Bedingung innewohnt: Die Grenze ermöglicht Bestimmtheit, indem sie sich ihr zugleich entzieht. Aus dieser Struktur entwickelt Ott fünf Strukturmomente einer nicht-substantiellen Ontologie (Relationalität, Prozessualität, Negativität, Gradualität, Offenheit) und die Invarianzthese, der zufolge apophatische und prozessuale Reaktionsformen in allen großen philosophischen Traditionen als strukturell notwendige Antworten auf dieselbe Grenzstruktur auftreten.
Die Grenzontologie positioniert sich als dritter Weg zwischen dem postkantianischen Korrelationismus (der die Bedingungen des Denkens am Subjekt festmacht) und dem spekulativen Realismus (der ein Absolutes jenseits aller Bedingung postuliert): Sie behauptet, dass die Grenzstruktur selbst – als Bedingung der Bestimmbarkeit – transzendental zugänglich ist, ohne deshalb subjektgebunden zu sein. In der intellektuellen Landschaft des 21. Jahrhunderts vermittelt sie zwischen analytischer Metaphysik und kontinentaler Ontologie, zwischen Wissenschaftstheorie und politischer Philosophie, zwischen europäischer und globaler Philosophie.
Die Weiterentwicklungen des Programms in drei Richtungen sind von besonderer Bedeutung: Normativität (das Brückenprinzip und die „warme Grenzontologie" als Überwindung der normativen Lücke der formalen Ontologie), Wissenschaftstheorie (die Auflösung der Realismus-Konstruktivismus-Dichotomie durch das Konzept der Modelle als Grenzobjekte) sowie Risiko (die Identitätsthese, die Risiko als Selbstdifferenz der Gegenwart versteht, und das Konzept der Grenzpflege als adäquate Form des Risikomanagemnts einführt). Die Grenzontologie versteht sich als unabgeschlossenes Forschungsprogramm – als Aufgabe, Realität nach dem Ende metaphysischer Fundamente zu denken, ohne in Relativismus oder Dogmatismus zurückzufallen.