synthetic data: bina contoh ujian tanpa dakwaan anonimiti

Synthetic data ialah data yang dicipta untuk mewakili contoh, bukannya dikumpulkan sebagai pemerhatian sebenar yang digambarkannya. Data ini boleh ditulis secara manual, dijana berdasarkan peraturan atau dihasilkan oleh model. Untuk pengujian, nilainya terletak pada liputan kes yang jelas dan jangkaan yang diketahui; sifat sintetik tidak membuktikan anonimiti atau realisme statistik.

Set data ujian yang direka sepenuhnya boleh menguji medan tiada dan nilai bercanggah tanpa menyalin rekod peribadi. Set data yang dijana berdasarkan rekod sebenar menimbulkan persoalan lain tentang maklumat yang digunakan dalam penghasilannya. Pastikan asal usul dan kegunaan yang dimaksudkan jelas, dan jangan anggap semua baris yang dijana boleh saling menggantikan.

Cara data sintetik dicipta

Mulakan dengan tingkah laku yang perlu diperiksa, kemudian cipta nilai yang memperlihatkannya. Contoh biasa boleh menguji laluan yang dijangka; nilai kosong atau jenis nilai yang salah boleh menguji penolakan. Setiap baris perlu mempunyai sebab untuk diwujudkan dan keputusan pengendalian yang dijangka dan dinyatakan dengan jelas berdasarkan kontrak ujian itu sendiri.

Data yang dijana melalui peraturan boleh mempelbagaikan medan secara sistematik. Data yang dijana model boleh mencadangkan ungkapan yang pelbagai, tetapi label dan andaiannya masih memerlukan semakan. Kedua-dua kaedah tidak secara automatik membekalkan jawapan rujukan yang boleh dipercayai. Penjana boleh mengulangi salah faham yang sama seperti sistem yang diuji.

Halaman ini menggunakan set data ujian manual yang kecil kerana matlamatnya ialah liputan sempadan, bukannya populasi yang realistik. Nilainya sengaja dibuat ringkas dan mudah ditafsirkan. Baris tambahan tidak banyak membantu melainkan ia memperlihatkan tingkah laku tambahan atau interaksi bermakna antara peraturan sedia ada.

Set data ujian pertanyaan enam baris yang direka sepenuhnya

Semua medan dan nilai di bawah adalah sintetik. Tiada rekod peribadi, maklumat untuk dihubungi atau pertanyaan sebenar digunakan. Kontrak rekaan set data ujian ini memerlukan rentetan tidak kosong enquiry_ref, rentetan tidak kosong message dan requested_route yang dipilih daripada information atau change. Ruang di sekeliling mesej dibuang hanya untuk semakan kekosongan.

Kontrak itu turut menerima declared_route pilihan. Jika diberikan, nilainya mesti berupa laluan yang dibenarkan dan sama dengan requested_route; percanggahan memerlukan semakan. Kegagalan medan wajib atau jenis data diberi keutamaan berbanding konflik laluan. Ini ialah peraturan ujian yang ditetapkan, bukannya penerangan tentang titik akhir AI Flowi.

{
  "fixture_id": "enquiry-boundaries-v1",
  "origin": "wholly invented",
  "all_values_synthetic": true,
  "personal_records_used": false,
  "purpose": "input-boundary checks",
  "population_claim": "none",
  "observed_run": false
}
[
  {"enquiry_ref":"E01","message":"Which collection days are available?","requested_route":"information","declared_route":"information"},
  {"enquiry_ref":"E02","message":"Move collection to Thursday.","requested_route":"change","declared_route":"change"},
  {"enquiry_ref":"E03","message":"   ","requested_route":"information"},
  {"enquiry_ref":"E04","message":"Explain the collection window.","requested_route":"information","declared_route":"change"},
  {"enquiry_ref":"E05","message":17,"requested_route":"information"},
  {"enquiry_ref":"E06","requested_route":"change"}
]
Liputan kes dan keputusan pengendalian yang ditetapkan
KesTujuan liputanKeputusan pengendalian yang dijangkaBukti peraturan
E01Pertanyaan maklumat biasa.acceptTeks tidak kosong; laluan yang dibenarkan sepadan.
E02Pertanyaan perubahan butiran biasa.acceptTeks tidak kosong; laluan change sepadan.
E03Kosong selepas semakan ruang kosong yang ditetapkan.reject_emptyMesej hanya mengandungi ruang.
E04Laluan berstruktur yang bercanggah.review_conflictinformation dan change tidak sepadan.
E05Jenis medan yang salah dalam JSON yang selainnya sah.reject_typeMesej berupa nombor, bukannya rentetan.
E06Medan wajib tiada.reject_missingMedan message tiada.

E05 ialah JSON yang sah dengan medan yang melanggar kontrak aplikasi. Ia bukan kes ralat sintaks JSON. E06 berbeza daripada E03: medan yang tidak disertakan dan nilai kosong yang diberikan secara jelas menguji semakan berbeza. Mengekalkan perbezaan ini membantu mengenal pasti sempadan yang gagal.

Set data ujian ini sengaja meliputi enam kes ini sahaja. Ia tidak menguji laluan tidak disokong, rujukan kosong, penghantaran berulang atau setiap gabungan kegagalan. Tambah kes apabila kontrak sebenar memperkenalkan peraturan relevan yang lain; jangan dakwa liputan menyeluruh berdasarkan senarai pendek.

Apakah perbezaan antara liputan dengan keterwakilan dalam data sintetik?

Liputan kes menilai sama ada set data ujian menguji keadaan tertentu. Keterwakilan menilai sama ada data menerangkan populasi atau proses sasaran dengan cukup baik untuk inferens yang ditetapkan. Memasukkan beberapa baris tidak sah dengan sengaja berguna untuk pengujian sempadan tetapi tidak menunjukkan kekerapan pertanyaan tidak sah dalam persekitaran pengeluaran.

Jika semua kes ujian yang ditetapkan lulus, hasilnya hanya menunjukkan tingkah laku pada contoh tersebut. Ia tidak membuktikan kualiti model secara umum, kepuasan pelanggan sebenar atau prestasi semasa trafik serentak. Panduan pengujian API menerangkan pemerhatian titik akhir dan semakan kesan sampingan; set data ujian ini membekalkan input calon sebelum perkhidmatan diuji.

Asingkan jangkaan yang ditetapkan daripada hasil yang diperhatikan. Jika E04 diterima dalam percubaan kemudian, rekodkan percanggahan itu berbanding jangkaan asal, dan bukannya menulis semula jangkaan supaya pelaksanaan kelihatan berjaya. Peraturan perniagaan yang berubah memerlukan kontrak baharu dan revisi set data ujian.

Sintetik tidak bermakna telah dianonimkan

Penganoniman berkaitan dengan sama ada maklumat boleh dikaitkan dengan individu dalam keadaan yang relevan. Penciptaan sintetik berkaitan dengan cara data dihasilkan. Penjana yang menggunakan contoh sebenar mungkin mengekalkan butiran unik, dan menggantikan nama dalam rekod yang disalin tidak menjadikan rekod itu rekaan sepenuhnya.

Bagi set data ujian ini, pernyataan asal usulnya terhad: tiada rekod sumber peribadi digunakan untuk mencipta nilainya. Pernyataan itu tidak mengesahkan setiap set data lain yang disebut sintetik. Periksa bahan sumber, kaedah penjanaan dan tujuan penerbitan sebelum menentukan dakwaan yang berasas.

Jika penjanaan model diperkenalkan, semak teks yang dijana untuk butiran tersalin atau butiran pengenalan diri yang tidak disengajakan, dan dokumentasikan kebenaran sumber. Jangan gambarkan semakan itu sebagai jaminan privasi. Set data boleh berguna untuk ujian tetapi masih tidak sesuai untuk penerbitan lebih luas atau analisis populasi.

Antara muka data dalam AI Flowi Workflow

Rujukan Create Data menerangkan kontrak pembinaan dan batas eksport statik; statusnya: didokumenkan dalam katalog; belum diuji dalam persekitaran pengeluaran oleh Ai Flowi.

Set data ujian enam baris ini ialah data pengajaran dan bukannya konfigurasi komponen yang boleh diimport. Untuk mengembangkannya, namakan dahulu peraturan yang belum diliputi. Rujukan pertanyaan kosong akan menguji sempadan medan kosong yang berbeza daripada E03. Laluan permintaan yang tidak disokong akan menguji pengesahan keahlian dalam set nilai dibenarkan, manakala laluan yang diisytiharkan tetapi tidak disokong akan menguji kesahan medan pilihan sebelum membandingkan laluan. Pastikan tujuan setiap baris baharu jelas supaya penjanaan tidak menghasilkan banyak pertanyaan biasa sambil membiarkan sempadan itu tidak diperiksa.

Kekalkan juga nilai tidak sah dengan sengaja. Menulis semula mesej E05 yang berupa nombor sebagai teks akan membuang kes kegagalan jenisnya; mengisi mesej E06 yang tiada akan menghapuskan kes ujian bagi medan yang tidak disertakan itu. Oleh itu, penjana yang diarahkan untuk membuat setiap baris kelihatan munasabah boleh mengurangkan kegunaan set data ujian. Katalog menerangkan antara muka, bukannya liputan set data ujian. Penulisan manual tidak memerlukan akaun model; penjanaan melalui penyedia, jika dipilih, memerlukan kelayakan anda sendiri yang dibenarkan dan bayaran penyedia yang berasingan.

Kesilapan lazim dan istilah berkaitan

Elakkan menyalin baris sumber sensitif ke set data ujian berlabel rekaan, menguji input biasa sahaja atau menganggap label yang dijana sebagai hasil yang disahkan. Berikan versi baharu kepada set data ujian apabila nilai atau peraturan penerimaan berubah, dan kekalkan keputusan pengendalian terdahulu yang dijangka untuk perbandingan.

Pembersihan data berkaitan dengan kecacatan rekod yang dibekalkan. Pengujian ETL menyemak transformasi dan jejak asal usul data, manakala anotasi menerangkan semakan label rujukan. Contoh ujian rekaan menyokong semakan tersebut tanpa membuktikan hasil dunia sebenar.

Oleh Ai Flowi · Diterbitkan