<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40">
<head>
<meta http-equiv="Content-Type" content="text/html; charset=us-ascii">
<meta name="Generator" content="Microsoft Word 15 (filtered medium)">
<style><!--
/* Font Definitions */
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:SimSun;
        panose-1:2 1 6 0 3 1 1 1 1 1;}
@font-face
        {font-family:Consolas;
        panose-1:2 11 6 9 2 2 4 3 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0cm;
        margin-bottom:.0001pt;
        font-size:11.0pt;
        font-family:"Calibri",sans-serif;}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:#0563C1;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:#954F72;
        text-decoration:underline;}
span.EmailStyle17
        {mso-style-type:personal-compose;
        font-family:"Calibri",sans-serif;
        color:windowtext;}
.MsoChpDefault
        {mso-style-type:export-only;
        font-family:"Calibri",sans-serif;}
@page WordSection1
        {size:612.0pt 792.0pt;
        margin:72.0pt 90.0pt 72.0pt 90.0pt;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]-->
</head>
<body lang="EN-US" link="#0563C1" vlink="#954F72">
<div class="WordSection1">
<p class="MsoNormal">Hi,<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal"><span style="font-family:Consolas">I meet a problem that libvirt handle new mediated devices wrongly.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">Command `virsh nodedev-list –cap mdev` return none after I create a mdev, and the root cause I found is:<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">// kernel code <o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">int mdev_device_create(struct kobject *kobj, struct device *dev, uuid_le uuid)<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">{<o:p></o:p></span></p>
<p class="MsoNormal" style="text-indent:24.0pt"><span style="font-family:Consolas">...<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      <i>ret = device_register(&mdev->dev); // send udev event here --- 1<o:p></o:p></i></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      if (ret) {<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">            put_device(&mdev->dev);<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">            goto create_err;<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      }<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      ret = mdev_device_create_ops(kobj, mdev);<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      if (ret)<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">            goto create_failed;<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      <i>ret = mdev_create_sysfs_files(&mdev->dev, type); // create mdev_type symbol link here --- 2<o:p></o:p></i></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      if (ret) {<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">            mdev_device_remove_ops(mdev, true);<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">            goto create_failed;<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      }<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      mdev->type_kobj = kobj;<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">      dev_dbg(&mdev->dev, "MDEV: created\n");<o:p></o:p></span></p>
<p class="MsoNormal" style="text-indent:24.0pt"><span style="font-family:Consolas">...<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">}<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">At point 1, kernel send a udev event(add). If libvirt receive this event and handle it before kernel code reach point 2, libvirt<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">just fail to resolve link such as ‘/sys/devices/pci0000:80/0000:80:02.0/0000:81:00.0/36b79575-ada8-4406-893d-8cfd8d10a984/mdev_type’
<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">because the link haven’t been created yet. Then libvirt thinks this devices doesn’t exsit and stop tracking info of this device.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">Finally, command `vish nodedev-list –cap` return nothing though the device exist at host indeed.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">To make it easy to reproduce this problem, I just add a `udelay(1)` before point 2 by kprobe.<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">So I think maybe we should add ‘kobject_uevent(..., KOBJ_ADD)’ after point 2 instead of point 1 ?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas">Or is there any other method to solve this problem?<o:p></o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas;color:#1F497D"><o:p> </o:p></span></p>
<p class="MsoNormal"><span style="font-family:Consolas;color:#1F497D"><o:p> </o:p></span></p>
<p class="MsoNormal"><o:p> </o:p></p>
<p class="MsoNormal">Thanks,<o:p></o:p></p>
<p class="MsoNormal">Zongyong Wu<o:p></o:p></p>
<p class="MsoNormal"><o:p> </o:p></p>
</div>
</body>
</html>