يعد الموقع الأثري لقصر الكاهنة ببلدية بغاي على بعد16 كلم عن مدينة خنشلة شاهدا على الحقبة التاريخية التي أعقبت المرحلة البيزنطية التي قاومها السكان الأصليون عن طريق الحملات التي قادها ملك الأوراس "بيداس " لما كان يتمتع به نفوذ لدى البربر ما يستدعي حماية هذا الفضاء و الكشف عن مزيد من خباياه. وقد أقام الملك بيداس حسب شهادات مؤرخين كما أوضحه مدير المتحف الولائي لخنشلة السيد شعبان صكيو بمناسبة معرض إحياء شهر التراث المقام بنفس المتحف معسكرا له على سهول بغايا وتمكن من خلالها من رد الهجمات المتتالية للبيزنطيين على المنطقة. وبعد حكم بيداس جاء عهد الكاهنة التي بسطت نفوذها على المنطقة وأقامت الحصون لحماية ملكها الى ان اصطدمت بجيش القائد الفاتح حسان بن النعمان بعد فتحه قرطاج قاصدا الأوراس . و خرجت الكاهنة بجيش قوامه 40 ألف شخص واستطاعت أن تصد جيش بن النعمان و ذلك سنة 680 ميلادي. وفي سنة 701 أعاد نفس الفاتح العربي الكرة وهزم الكاهنة في معركة قرب قايس على بعد 28 كلم من خنشلة ولاحقها بعد أن فرت إلى منطقة بئر العاتر 86 كلم عن مدينة تبسة حيث لقيت حتفها ويعتقد أنها دفنت هناك فيما يذكر أن بعض المؤرخين يطلقون على بئر العاتر ببئر الكاهنة. وتشير بعض المراجع التاريخية إلى أن رأس الكاهنة حمله الفاتحون العرب إلى الخليفة الأموي عبد المالك بن مروان بدمشق ببلاد الشام آنذاك إلا أن هذا المقولة تستدعي حسب الأستاذة زينب علي بن علي من جامعة باريس 8 إلى تحليل وتدقيق و بحث تاريخي مستفيض لأنها تعتقد بأن الكاهنة دفنت ببئر العاتر (تبسة) وهو الرأي الأرجح حسب ما أشارت إليه ذات الجامعية في محاضرتها بعنوان "الكاهنة ملكة الأمازيغ." وتعد مدينة بغاي حسب مؤرخين و مختصين في علم الآثار منطقة أثرية تعود إلى العهد الحجري وقد وصلها الرومان وطوروا عمرانها و أقاموا بها معقلا للديانة المسيحية ثم البيزنطيين الذين أسسوا بها قلاع المراقبة ثم الفتح الإسلامي في الأخير والاسم الحقيقي لها بغايا كما ذكره إبن خلدون في كتابه "المقدمة" مشير إلى أنها بلدة عتيقة ذات أراضي زراعية خصبة و تشتهر بالزيتون على الخصوص. وقد أصبحت في القرنيين الثامن و التاسع الميلادي إحدى القلاع الإسلامية لتسقط بعد الأغالبة الذين حكموا القيروان (تونس) في أيدي الفاطميين في سنة 907 ميلادي. وقد استعملها الفاطميون استنادا إلى شهادات تاريخية قاعدة لاحتلال إفريقيا لتتحول فيما بعد إلى حلبة صراع بين بني حمدون والزيريين حتى القرن 11 الميلادي لتصبح تحت بني هلال الذين قدموا إلى المنطقة فيما بعد. وتشير الوصفات التاريخية إلى أن مدينة بغايا التي اتخذت منها الكاهنة عاصمة لملكها يحيط بها حصن على شكل ضلع غير منتظم يتربع على 1.172 متر على مساحة أكثر من ثمانية ونصف هكتار وهذا الحصن أو الصور مشيدا من الحجارة ذات الحجم الكبير ويتم الدخول إليه عبر بوابتين مؤطرين بأبراج عالية. وبداخل المدينة تستند قلعة على الجدار الشمالي الغربي، حسبما أظهرته بعض الحفريات في سنة 1940 كما تدل عليها وثيقة لدى مديرية الثقافة بالولاية فيما يرى الكثير من المعنيين بالتاريخ أن قصر الكاهنة يتواجد إلى جانب الآثار الرومانية قبل ذالك تحت الردوم وهي آراء يجمع عليها معظم المؤرخين لأن بعض الاستكشافات على النقوش الحجرية التي عثر عليها باللغة اللاتينية تذكر كثيرا من الشواهد التي لا تزال مغمورة تحت الأنقاض إلى حد الآن. ويجمع المهتمون بتاريخ منطقة بغاي على ضرورة القيام بحفريات وتكثيف الدراسات والبحوث وعقد الملتقيات لتسليط الضوء أكثر على هذه الحقبة من التاريخ عامة والكاهنة بالخصوص كما ركزت عليه التدخلات في ملتقى "الكاهنة ملكة الأمازيغ" الذي نظم يومي 23 و24 أفريل الجاري تزامنا مع إحياء شهر التراث من طرف كل من الجمعية الثقافية العلمية بخنشلة وجمعية محند أومحند لتيزي وزو.