اریه یک چارچوب برای شبکه های عصبی گرافی آگاه از موقعیت

چکیده:

روشهای یادگیری بازنمایی در گراف، از جمله شبکه‌های عصبی گرافی، به ازای هر گره یک بازنمایی برداری ایجاد می‌کنند. به طوری‌که بردارهای مربوط به گره‌هایی با ساختار همسایگی شبیه در فضای برداری نزدیک به همدیگر باشد. بنابراین ممکن است بازنمایی‌های تقریباً یکسانی برای گره‌هایی با الگوهای همسایگی مشابه تولید شود. با هدف ایجاد تفاوت در بازنمایی‌ها، شبکه‌های عصبی گرافی آگاه از موقعیت توسعه یافته‌اند که با مدل‌سازی موقعیت نسبی گره‌ها در فرآیند یادگیری، امکان تولید بازنمایی‌هایی با قدرت تمایز بالاتر را فراهم می‌کنند. با این وجود، تفاوت عملکرد مدلهای مختلف شبکه‌های عصبی گرافی آگاه از موقعیت عمدتاً ناشی از انتخاب‌های متفاوت در طراحی مؤلفه‌های معماری آن‌هاست. در این پایان نامه، یک چارچوب یکپارچه طراحی برای ایجاد مدل‌های زیادی پیشنهاد می‌شود. این چارچوب شامل پنج مؤلفه اصلی است که برای هر کدام از آنها گزینه‌های مختلفی طراحی و پیاده‌سازی می‌شود؛ هر مؤلفه نقش مشخصی در استخراج، پردازش و ادغام اطلاعات موقعیتی ایفا می‌کند. با انتخاب یک گزینه از هر مؤلفه، یک پیکربندی (یا مدل) متمایز توسط چارچوب پیشنهادی تولید می‌شود؛ بدین ترتیب مدلهای متعدد و متفاوتی از شبکه‌های عصبی آگاه از موقعیت توسط چارچوب یکپارچه پیشنهادی تولید می‌شوند. نتایج تجربی نشان می‌دهد مدل‌های حاصل از چارچوب پیشنهادی در مقایسه با مدل‌های رایج شبکه عصبی گرافی آگاه از موقعیت، عملکرد بهتری نشان می‌دهند؛ به عنوان نمونه در معیار ROC-AUC، به‌طور متوسط، در وظیفه پیش‌بینی پیوند 6/9% و در وظیفه طبقه‌بندی جفت‌گره ۲/8% نسبت به مدل‌های پایه بهتر عمل می‌کنند. ترکیب همه گزینه‌ها در پنج مؤلفه پیشنهادی، یک فضای طراحی با 1080 پیکربندی متمایز معماری ایجاد می‌کند. پرسش اساسی آن است که کدام پیکربندی از میان تمام پیکربندی‌ها برای یک نوع وظیفه یادگیری در یک گراف خاص مناسب است؟ در این پایان‌نامه برای رسیدن به پاسخ این پرسش، یک مکانیزم تصمیم‌گیری مبتنی بر مدل‌های زبانی بزرگ پیشنهاد شده است که با استفاده از ویژگی‌های گراف و شواهد حاصل از آزمایش‌های مؤلفه‌ها، پیکربندی مناسب را برای مجموعه‌داده‌های جدید پیشنهاد می‌دهد. این مکانیزم فرآیند انتخاب معماری را از یک روند شهودی و مبتنی بر آزمون‌وخطا به یک فرآیند داده‌محور، ساختاریافته و قابل تعمیم ارتقا می‌دهد. نتایج ارزیابی نشان می‌دهد که پیکربندی‌های پیشنهادی توسط مدل زبانی، عملکرد بهتری نسبت به مدل‌های پایه و پیکربندی تصادفی ارائه می‌دهند و امکان تعمیم چارچوب به گراف‌های دیده‌نشده را فراهم می‌کنند.