Die erste urkundliche Erwähnung des Ortes Ahneby datiert vom 31. März 1196. Die Urkunde steht im Zusammenhang mit dem St. Michaeliskloster in Schleswig, das mit Genehmigung des dänischen Königs Knud VI. nach Guldholm verlegt wurde.
Der Ortsname in seiner ältesten Form, "Anabu", bedeutet "Dorf, Siedlung des Ani" - ein altdänischer Personenmame.Ahneby gelangte später in den Besitz des um 1040 gegründeten Schleswiger St.Michaeliskloster. Das Kloster Guldholm bestand aber nur kurze Zeit. 1192 gegründet, wurde es um das Jahr 1209/10 in das heutige Munkbrarup verlegt. Die Gründe dieser Verlegung sind unbekannt. Der neue Ort des Klosters wurde "rus regis" genannt (Rudekloster) Der Bischof Nicolaus von Schleswig wies dem Rudekloster 1209 die Bischofszehnten in Munkbrarup, Grundhof und Broacker zu. Was beim Umzug des Klosters aus den Besitzungen des Guldholmer Klosters, insbesondere Ahneby, geworden ist, lässt sich nicht nachweisen. Zu den Besitzungen des Rudeklosters hat Ahneby nach den historischen Urkunden nicht gehört. Möglicherweise ist Ahneby in königlichen Besitz zurückgefallen und später adliges Eigentum geworden.
Im weiteren Geschichtsverlauf gehörte Ahneby zum Antoniterkloster Mohrkirchen. Über die Aufgaben der dem Kloster zugehörigen Untertanen ist nur wenig bekannt. In einer Urkunde von 1484 wird das Wort "Leibeigene" verwendet, das darauf hinweist, dass die Untertanen täglich Hofdienste für das Kloster verrichten mußten. Mit der Reformation kam auch das Ende des Antoniterklosters Mohrkirchen, es wurde 1541 aufgelöst. Alle Bücher und Schriften der Mönche sollen verbrannt worden sein. Aus dem Kloster wurde nun ein herzoglicher Gutshof, der an Adlige verpfändet wurde. Die Untertanen waren dem Gut Mohrkirchen zwar immer noch dienstverpflichtet, aber keine Leibeigenen mehr. Für die Leistung von Diensten und Abgaben konnten die Untertanen auf der anderen Seite vom Gut Schutz und Hilfe in Notlagen erwarten, etwa zur Zeit des 30jährigen Krieges.
Nach dem Deutsch-Dänischen Krieg 1864 wurde im Herzogtum Schleswig Schritt für Schritt das preußische Verwaltungsrecht eingeführt. Die alte Hardenordnung wurde durch Verordnung vom 22. September 1867aufgelöst, es entstand der Landkreis Flensburg, zu dem Ahneby fortan gehörte. Die Gemeinde Ahneby wurde 1868 gebildet.