Please submit your CV in English and indicate your level of English proficiency.
Mindrift connects specialists with project-based AI opportunities for leading tech companies, focused on testing, evaluating, and improving AI systems. Participation is project-based, not permanent employment.
We're building a dataset to evaluate AI coding agents - how well a model handles real-world developer tasks.
You'll create challenging tasks and evaluation criteria within realistic simulated environments:
Build realistic developer environments - a virtual company with codebase, infrastructure, and context (tickets, docs, conversations) that forms a believable development history Design tasks from intermediate states of these environments - craft the prompt, define what "solved" means, and ensure the task is solvable by an AI agent Write tests that verify agent solutions - accept all valid approaches and reject incorrect ones, neither too strict nor too lenient Iterate on tasks and tests based on QA feedback - review agent solutions, analyze failures, and refine until the evaluation is fair and robust
What this is NOT:
Not data labeling Not prompt engineering Not writing code from scratch - the agent writes most of the code; you guide and evaluate
What we look for:
5+ years in software development Core stack: Python (Fast API), Java Script/Type Script (React), Docker, Postgres, Kafka, Redis Experience writing tests (functional, integration) English proficiency - B2+
Why this is hard:
Frontier models are already good at coding. Creating a task that genuinely challenges the best models is non-trivial. You need to deeply understand where models fail and what scenarios reveal the difference between a good and a bad solution. Tasks have many valid solutions - writing tests that accept all correct solutions and reject incorrect ones is harder than it sounds.
Requirements And Benefits
Educational qualifications
A Master's Degree in Computer Science, Software Engineering, Data Science / Data Analytics, Artificial Intelligence / Machine Learning, Computational Linguistics / Natural Language Processing (NLP), Information Systems or other related fields. Bachelor's degree is accepted if only candidate has 5 years of experience in the field
Academic and/or Professional Experience
Candidates should have a minimum of 3 years of professional experience in related roles or domain - specifically for QA-automation/testing or cybersecurity roles
How It Works
Apply → Pass qualification(s) → Join a project → Complete tasks → Get paid
Compensation:
Paid per accepted task. Your rate depends on the qualification tier you reach and how efficiently you complete tasks — up to the equivalent of $50/hr. Because payment is per task, a faster pace raises your effective hourly rate.
Why this freelance opportunity might be a great fit for you?
Take part in a part-time, remote, freelance project that fits around your primary professional or academic commitments. Work on advanced AI projects and gain valuable experience that enhances your portfolio. - Influence how future AI models understand and communicate in your field of expertise
يرجى تقديم سيرتك الذاتية باللغة الإنجليزية وتوضيح مستوى إتقانك للغة الإنجليزية.
تربط منصة Mindrift المتخصصين بفرص العمل المستندة إلى المشاريع في مجال الذكاء الاصطناعي مع شركات التكنولوجيا الرائدة، مع التركيز على اختبار وتقييم وتحسين أنظمة الذكاء الاصطناعي. المشاركة تعتمد على نظام المشاريع، وليست توظيفاً دائماً.
نحن نبني مجموعة بيانات لتقييم وكلاء البرمجة المعتمدين على الذكاء الاصطناعي - ومدى كفاءة النموذج في التعامل مع مهام المطورين في العالم الحقيقي.
ستقوم بإنشاء مهام صعبة ومعايير تقييم ضمن بيئات محاكاة واقعية:
بناء بيئات مطورين واقعية - شركة افتراضية تحتوي على قاعدة برمجية، وبنية تحتية، وسياق (تذاكر، وثائق، محادثات) تشكل تاريخ تطوير موثوقاً. تصميم مهام من حالات وسيطة لهذه البيئات - صياغة التوجيه (prompt)، وتحديد ما يعنيه "الحل"، وضمان إمكانية حل المهمة بواسطة وكيل ذكاء اصطناعي. كتابة اختبارات تتحقق من حلول الوكيل - قبول جميع الأساليب الصحيحة ورفض غير الصحيحة، بحيث لا تكون صارمة جداً أو متساهلة جداً. التكرار في المهام والاختبارات بناءً على ملاحظات ضمان الجودة (QA) - مراجعة حلول الوكيل، وتحليل الإخفاقات، والتحسين حتى يصبح التقييم عادلاً وقوياً.
ما هذا العمل ليس:
ليس تصنيف بيانات. ليس هندسة توجيهات (prompt engineering). ليس كتابة كود من الصفر - الوكيل يكتب معظم الكود؛ أنت توجه وتقيم.
ما نبحث عنه:
أكثر من 5 سنوات في تطوير البرمجيات. المكدس الأساسي: Python (Fast API)، Java Script/Type Script (React)، Docker، Postgres، Kafka، Redis. خبرة في كتابة الاختبارات (وظيفية، تكاملية). إتقان اللغة الإنجليزية - مستوى B2 فما فوق.
لماذا هذا التحدي صعب:
النماذج المتطورة جيدة بالفعل في البرمجة. إنشاء مهمة تتحدى حقاً أفضل النماذج أمر ليس بسيطاً. تحتاج إلى فهم عميق لأماكن فشل النماذج وما هي السيناريوهات التي تكشف الفرق بين الحل الجيد والسيء. المهام لها حلول صحيحة متعددة - كتابة اختبارات تقبل جميع الحلول الصحيحة وترفض غير الصحيحة أصعب مما يبدو.
المتطلبات والمزايا
المؤهلات التعليمية
درجة الماجستير في علوم الحاسب، هندسة البرمجيات، علم البيانات / تحليل البيانات، الذكاء الاصطناعي / تعلم الآلة، اللغويات الحاسوبية / معالجة اللغات الطبيعية (NLP)، نظم المعلومات أو مجالات أخرى ذات صلة. تُقبل درجة البكالوريوس فقط إذا كان لدى المرشح 5 سنوات من الخبرة في هذا المجال.
الخبرة الأكاديمية و/أو المهنية
يجب أن يتمتع المرشحون بحد أدنى 3 سنوات من الخبرة المهنية في أدوار أو مجالات ذات صلة - وتحديداً في أدوار ضمان الجودة (QA) / الأتمتة / الاختبار أو الأمن السيبراني.
كيف يعمل الأمر
قدم طلبك → اجتز التأهيل (التأهيلات) → انضم إلى مشروع → أكمل المهام → احصل على أجر.
التعويض:
الدفع مقابل كل مهمة مقبولة. يعتمد معدل أجرك على مستوى التأهيل الذي تصل إليه ومدى كفاءتك في إكمال المهام - حتى ما يعادل 50 دولاراً في الساعة. ولأن الدفع مقابل كل مهمة، فإن السرعة تزيد من معدل أجرك الفعلي بالساعة.
لماذا قد تكون هذه الفرصة المستقلة مناسبة لك؟
شارك في مشروع بدوام جزئي، عن بعد، وبنظام العمل الحر الذي يتناسب مع التزاماتك المهنية أو الأكاديمية الأساسية. اعمل على مشاريع ذكاء اصطناعي متقدمة واكتسب خبرة قيمة تعزز ملفك المهني. - أثّر في كيفية فهم نماذج الذكاء الاصطناعي المستقبلية والتواصل في مجال خبرتك.